PITRI-TV.RU

Активно внедряемые сегодня во все сферы деятельности системы искусственного интеллекта демонстрируют предвзятое отношение к тем или иным меньшинствам, утверждают представители многих правозащитных организаций. Это проявляется в сбоях систем распознавания лиц, которые с трудом идентифицируют чернокожих; отказах голосовой идентификации для пользователей с характерным региональным акцентом; или запретах на выдачу кредитов меньшинствам в банках.

Источник изображения: Hitesh Choudhary / unsplash.com

Набиль Манджи (Nabil Manji), глава отдела криптовалют и web3 в платёжной службе Worldpay отмечает, что качество работы ИИ-модели определяется двумя составляющими: использованными при обучении материалами и эффективностью алгоритмов — поэтому Reddit и другие крупные платформы взимают плату за доступ к данным для обучения ИИ. Образуется фрагментация данных, и в традиционно консервативной сфере финансовых услуг результативность ИИ оказывается ниже, чем у компаний, способных быстро внедрять передовые решения и производить выборки актуальных данных. Образцом репрезентативно разрозненных данных в этом случае может служить технология блокчейна, уверен эксперт.

Румман Чоудхури (Rumman Chowdhury), бывший глава подразделения Twitter по этике машинного обучения назвал сферу кредитования ярким примером дискриминации со стороны ИИ. Аналогичная схема действовала в Чикаго в тридцатые годы прошлого века, напомнил эксперт: в банках висели большие карты города, на которых красным были отмечены районы с преимущественным проживанием чернокожего населения — жителям этих районов в кредитах отказывали. Аналогичные ошибки, по его словам, совершают и современные ИИ-алгоритмы оценки кредитоспособности граждан, принимая этническую принадлежность клиента в качестве одного из параметров.

Источник изображения: Inatimi Nathus / unsplash.com

Об этом говорит и Энгл Буш (Angle Bush), основательница организации «Чёрные женщины в искусственном интеллекте» — она признаёт, что такая дискриминация носит непреднамеренный характер и призывает кредитные организации как минимум допускать возможность такой ошибки. Разработчик в области ИИ Фрост Ли (Frost Li) обратил внимание, что из-за технологической дискриминации уже появилось множество малых финтех-стартапов специально для иностранцев: традиционный банк легко может отказать выпускнику Токийского университета в выдаче кредитной карты, даже если он работает в Google, но согласиться обслуживать любого выпускника местного колледжа.

Доказать факты такой дискриминации бывает непросто. Apple и Goldman Sachs пытались обвинить в том, что пользующимся Apple Card женщинам они устанавливали более низкие кредитные лимиты, чем мужчинам. Но Департамент финансовых услуг Нью-Йорка не смог найти подтверждений этим обвинениям.

По мнению экспертов, защититься от дискриминации человека со стороны ИИ помогут меры регулирования отрасли, вводимые международным организациями вплоть до ООН. Потенциальными проблемами ИИ являются становящиеся компонентами алгоритмов элементы дезинформации и предубеждений, а также «галлюцинации». В этой связи при внедрении ИИ в работу компаний или органов власти необходимы механизмы обеспечения прозрачности и подотчётности алгоритмов, которые помогут даже не являющимся профессионалами гражданам самостоятельно судить об их эффективности. У граждан должна быть возможность подавать жалобы на подобные решения; ИИ-алгоритмы должны проходить проверки, а на этапе их развёртывания необходима экспертиза на предмет предвзятости.

Космическая обсерватория «Джеймс Уэбб» продолжает срывать покровы и расширять границы знаний. Новое наблюдение показало, что на заре Вселенной было необъяснимо много углерода, который, согласно нашим гипотезам, не мог там появиться в фиксируемых объёмах. Благодаря новым открытиям учёные получают новые данные для уточнения теорий эволюции звёзд, галактик и Вселенной.

Редкая звезда типа Вольфа — Райе, которая «пылит» не хуже сверхновых. Источник изображения: NASA, ESA, CSA, STScI, Webb ERO

Как сообщили учёные Кембриджского университета (Великобритания) в своей статье в журнале Nature, углеродная пыль в больших объёмах обнаружена в галактиках на рубеже 800 млн лет после Большого взрыва. Углерод и другие тяжёлые атомы (по представлению астрофизиков, кроме водорода и гелия тяжёлые все элементы) рождаются только в горниле звёзд и в виде пыли могут быть представлены преимущественно в одном случае — когда звезда превратится в сверхновую и развеет свою оболочку по окружающей Вселенной. Исходя из этого, на отметке 800 млн лет не должно было быть углерода и всего остального в заметных объёмах, поскольку звёзды просто не успели бы проэволюционировать до нужных кондиций и процессов.

Наблюдения «Уэбба» опровергли устоявшееся в научной среде мнение. Спектральные линии углерода абсолютно чётко прослеживаются во многих галактиках вблизи временной границы на уровне одного миллиарда лет после Большого взрыва. Это означает, что похожие химические процессы шли повсеместно и с одинаковой скоростью, и явно не так, как мы предполагали. Эти данные внесут значительные коррективы в модели эволюции звёзд и в наше понимание этих процессов.

«Наше обнаружение углеродистой пыли на красных смещениях 4–7 позволяет существенно ограничить модели и сценарии производства пыли в ранней Вселенной», — пишет группа специалистов под руководством космолога Йориса Витстока (Joris Witstok) из Кембриджского университета (Великобритания).

Впрочем, для обнаруженной странности с углеродом есть объяснение. Согласно одной из гипотез, первые звёзды во Вселенной были сверхмассивными. Такие звёзды эволюционируют намного быстрее, чем звёзды меньшей массы. Это также объясняет, почему мы до сих пор не видели ни одной из первых звёзд (они относятся к так называемому III населению). Все они превратились в сверхновые очень и очень рано и, следовательно, могли создать углерод и другие металлы в то время, куда наши инструменты ещё не могут заглянуть.

В мессенджере Telegram появилась поддержка Stories — функции, которую Павел Дуров анонсировал в начале этого месяца. Новая версия приложения доступна для скачивания, после её установки значок для записи Stories появится рядом с кнопкой «Написать сообщение». После создания истории её можно сделать видимой для всех или конкретных пользователей платформы, например, друзей или определённых контактов.

Напомним, в начале этого месяца основатель мессенджера Павел Дуров анонсировал скорое появление в Telegram функции Stories. Он отметил, что пользователи сервиса давно просили интегрировать эту функцию в приложение. «Более половины всех запросов о новых функциях, которые мы получаем, связаны со Stories. Изначально мы были против этого, так как Stories были уже везде. Однако Telegram не был бы Telegram, если бы мы не слушали наших пользователей и не внедряли инновации в существующие форматы», — говорилось в сообщении Павла Дурова. Основатель мессенджера считает, что внедрение Stories позволит каналам увеличить аудиторию и охват.

В плане конфиденциальности пользователи могут самостоятельно определять, кто может просматривать Stories. Перед публикацией можно отметить, разрешено ли пользователям сохранять историю, записывать экран с ней или делать скриншот. Что необычно по сравнению с аналогичной функцией в других приложениях, у пользователей Telegram есть возможность даже после публикации изменить список, кому видна история.

Сами же истории будут размещаться над списком всех чатов. Пользователи также могут добавлять в истории фото и видео, снятые с передней и задней камер смартфона одновременно. Публикуемые истории могут быть видны пользователям 6, 12, 24 или 48 часов.