Несколько дополнительных соображений о доверии к искусственному интеллекту – In AI We Trust, “Теперь есть!”
Резонансное вчерашнее письмо о необходимости ограничения искусственного интеллекта наделало много шума. Попробуем посмотреть на эту проблему под нескольким углами зрения.
Интересна статистика того, насколько доверяют AI в разных странах, и парадокс в том, что страны с большим технологическим развитием настроены более скептически.
-
Анекдот от Илона
Илон Маск напомнил своим подписчикам старый анекдот об искусственном интеллекте.
«Агностики построили искусственный сверхинтеллект, чтобы узнать, есть ли бог. Они заканчивают, задают ему вопрос и он отвечает – «Теперь есть!»
2. In AI We Trust
Искусственный интеллект в той или иной форме был частью повседневной жизни в течение многих лет, но стремительный рост ChatGPT и, как следствие, агрессивные темпы развития разговорных и генеративных моделей ИИ впервые в истории передают базовую технологию в руки широкой публики. Несмотря на то, что современные модели живого языка в основном способны угадывать наиболее подходящее следующее слово в предложении на основе предоставленного им контента, руководители компаний, исследователи и эксперты в области ИИ теперь призывают отрасль притормозить обучение и разработать модели, более эффективные, чем GPT-4 от OpenAI. Новейшая модель большого языка компании в настоящее время доступна в ограниченном объеме для подписчиков ChatGPT Plus и вскоре будет интегрирована в продукты Microsoft для повышения производительности и безопасности.
Согласно открытому письму, подписанному такими влиятельными фигурами, как Илон Маск и генеральный директор Stability AI Эмад Мостак, “мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффект будет положительным, а риски управляемыми”. Письмо было опубликовано Институтом будущего жизни, неправительственной организацией, основанной в 2014 году профессором Массачусетского технологического института Максом Тегмарком и соучредителем Skype Яаном Таллинном, среди прочих. Фонд Маска является основным донором организации.
Как показывают данные опроса, проведенного KPMG Australia и Университетом Квинсленда, жители Индии, Китая, Южной Африки и Бразилии, крупнейших так называемых развивающихся рынков, гораздо менее критически относятся к продолжающемуся внедрению систем ИИ. 75 процентов индийцев, опрошенных в период с сентября по октябрь 2022 года, доверили бы ИИ, за ними следуют 67 процентов респондентов из Китая и 57 процентов респондентов из Южной Африки. Согласно прилагаемому исследованию, респонденты утверждали, что больше всего доверяют ИИ, используемому в контексте здравоохранения и безопасности, по сравнению с другими возможными вариантами использования.
3. Можно ли доверять технологическим компаниям и правительству управление ИИ?
Опросив более 17 000 человек в 17 странах, исследование показало, что только треть респондентов сильно или полностью доверяют правительствам в отношении регулирования и управления инструментами и системами искусственного интеллекта. Участники опроса также скептически относились к технологическим компаниям и существующим регулирующим органам как руководящим органам в области ИИ. Вместо этого исследовательские институты, университеты и силы обороны считаются наиболее достойными в этом отношении.
Хотя опрошенные люди скептически относились к правительствам, о наднациональных органах, таких как Организация Объединенных Наций, думали более позитивно. Европейская комиссия в настоящее время является единственным органом в этой категории, разработавшим закон, направленный на ограничение влияния ИИ и обеспечение защиты прав физических лиц. Так называемый Закон об ИИ был предложен в апреле 2021 года и до сих пор не принят. Предлагаемый законопроект распределяет приложения ИИ по различным категориям риска. Например, ИИ, направленный на манипулирование общественным мнением или получение прибыли от детей или уязвимых групп, станет незаконным в ЕС. Приложения с высоким уровнем риска, такие как программное обеспечение для обработки биометрических данных, будут подпадать под строгие юридические ограничения. Эксперты раскритиковали проект политики за его очевидные лазейки и расплывчатые определения.
В октябре 2022 года президент США Джо Байден обнародовал проект под названием “Билль о правах ИИ”. В документе изложены пять руководящих принципов разработки и внедрения ИИ. Несмотря на свое название, Билль о правах ИИ не является нормативным и необязательным. На момент написания статьи в Соединенных Штатах нет федеральных законов или обязательной конкретной политики по регулированию ИИ.
Автор публикации
