Стоит ли бояться искусственного интеллекта?
Искусственный интеллект (ИИ), о котором говорят как о грядущей технологической революции, находит все большее применение в повседневной жизни, вызывая одновременно тревогу и энтузиазм. Сторонники убеждены, что ИИ поможет решить многие проблемы, стоящие перед человечеством (и создать несколько новых миллиардеров в процессе). Несогласные указывают на пока еще неизвестные риски, которые представляют собой машины, способные думать и действовать бесконечно быстрее человека.
Однако, как отмечает Нелло Кристианини, профессор искусственного интеллекта в Университете Бата (Великобритания), в статье The Conversation «ни один из вышеперечисленных сценариев» — будь то выдуманный экспертами или промышленными предпринимателями — «похоже, не намечает конкретного пути к вымиранию человечества. Это означает, что мы испытываем общее чувство тревоги, но не можем предпринять никаких действий». Эту позицию разделяет Кристофер Уайли, разоблачитель скандала с Cambridge Analytica, в статье, которую мы публикуем на этой неделе.
Аналогичную позицию в статье (для подписчиков) в журнале New Scientist занимает исследователь этики Мхайри Эйткен (Mhairi Aitken ) из Института Алана Тьюринга. Она считает, что эти апокалиптические предупреждения «пугают, потому что они вносят решающий вклад в дискуссию о последствиях искусственного интеллекта». Глубоко укоренившись в коллективном воображении, это мышление «теперь пробралось в политическую и нормативную сферы». По ее словам, это вызывает беспокойство, «потому что доказательств в поддержку этих алармистских теорий практически не существует, и они не выдерживают тщательной проверки». По мнению Эйткен, цель этих предупреждений — «отвести от себя требования прозрачности и свести на нет дебаты об ответственности застройщиков».
И что же делать Европе во всем этом? На этот раз Европейский союз поспешил решить эту проблему, разработав соответствующее постановление — Закон об искусственном интеллекте. Закон об искусственном интеллекте . Он должен вступить в силу в 2024 году и «предусматривает классы риска, для которых процедуры сертификации, проводимые производителем, становятся более строгими по мере увеличения риска», — объясняет Франческа Лагиойя, исследователь из юридического и инженерного отделов Европейской Комиссии, в интервью Internazionale’ Аннамария Теста. «Классы риска должны гарантировать надежность и уровень безопасности системы путем предварительных проверок и процедур соответствия и сертификации, т.е. до того, как эти технологии будут выведены на рынок и использованы, и до того, как будет нанесен какой-либо ущерб». Она предупреждает о главном ограничении этой системы: «производители смогут самостоятельно оценивать соответствие стандартам систем повышенного риска».
Также в Internazionale Франческа Спинелли берет интервью у Катерины Роделли, аналитика организации Access now, занимающейся защитой цифровых свобод, о недостатках Закона об искусственном интеллекте. Роделли отмечает, что механизмы обжалования для систем высокого риска не позволяют общественным организациям подавать апелляцию от имени человека, поскольку «власти опасаются, что их завалят судебными исками, поданными НПО». Она добавляет, что «нынешний текст также исключает из категории повышенного риска системы миграционного прогнозирования, которые очень популярны среди правительств, намеренных блокировать прибытие просителей убежища и «нелегальных мигрантов», а также среди организаций, занимающихся приемом беженцев». Со своей стороны, около шестидесяти правозащитных организаций опубликовали открытое письмо по поводу Liberties адресованное европейским законодателям и призывающее принять Закон об искусственном интеллекте, «требующий от ЕС принятия надежных гарантий для защиты того самого фундамента, на котором стоит наш Союз». Злоупотребление системами ИИ, включая непрозрачное и неподотчетное развертывание систем ИИ государственными органами, представляет собой серьезную угрозу для верховенства закона и демократии».
На ту же тему
Генеративный искусственный интеллект постепенно входит в жизнь детей
Натали Коубайова | AlgorithmWatch | 25 сентября | EN
Компания Amazon разрабатывает для своего устройства Alexa Echo функцию создания сказок на ночь для детей с помощью собственной модели большого языка (LLM). Система генерирует собственные истории на основе данных, полученных от детей, и таких функций, как распознавание персонажей с помощью камеры устройства. Эта инициатива призвана составить конкуренцию другим голосовым помощникам от таких технологических компаний, как Google и Apple. Однако продвижение Amazon в области ИИ, ориентированного на детей, натолкнулось на опасения по поводу конфиденциальности, учитывая, что ранее компания участвовала в судебном разбирательстве на сумму 25 миллионов долларов за незаконный сбор данных о детях без согласия родителей. В настоящее время разрабатывается законодательство, регулирующее технологии ИИ, предназначенные для детей, причем в Европейском союзе и некоторых штатах США правила будут более строгими.
Искусственный интеллект — угроза свободе интернета
Леонхард Питц | Netzpolitik | 5 октября | DE
В докладе Freedom of the Net 2023 неправительственной организации Freedom House говорится о том, что искусственный интеллект «является следующей угрозой для свободы интернета « . Эта технология используется для усиления дезинформации во многих странах и для того, чтобы сделать цензуру более изощренной. Таким образом, использование ИИ правительствами в сочетании с самомодерацией платформ ведет к снижению свободы интернета. В отчете подчеркивается необходимость регулирования, основанного на правах человека, прозрачности и независимом надзоре.
Также стоит прочитать
Тьерри Бретон на арене Элона Маска
Маркус Ройтер | Netzpolitik | 11 октября | DE
Комиссар ЕС по внутреннему рынку Тьерри Бретон отправил письмо меркантильному боссу социальной сети X (бывший Twitter) со своего аккаунта в Mastodon, конкурирующей (и открытой) сети. В нем Бретон указывает на дезинформацию, распространяемую на X после атак ХАМАС на Израиль, и напоминает Элону Маску, что Закон о цифровых услугах требует от X удалять незаконный контент в течение 24 часов. Хотя цель письма вполне логична, отмечает Маркус Рейтер,«то, что мы имеем, — это демонстрация политики над правом ЕС, публичный обмен мнениями между двумя мужчинами на эмоциональном боксерском ринге социальных сетей«.
Модель членства в ЕС по принципу «заданного меню» терпит крах. Настало время для подхода «по меню».
Альберто Алеманно | The Guardian | 10 октября | EN
Потенциальное вступление в ЕС новых государств, в частности, Украины, «предоставляет уникальную возможность сделать союз стратегически независимым в условиях угрожающего нового мирового порядка и способным возглавить борьбу с чрезвычайной ситуацией в области климата», — говорит профессор европейского права в HEC (и член консультативного совета Voxeurop), призывая пересмотреть систему управления ЕС. Две инициативы — Европарламента и франко-германской группы — по реформированию структур ЕС, включая возможное создание многоскоростной системы, могли бы способствовать интеграции и помочь ЕС справиться с глобальными вызовами.
Перевод Гарри Боудена
