Несколько дополнительных соображений о доверии к искусственному интеллекту – In AI We Trust, “Теперь есть!”

Резонансное вчерашнее письмо о необходимости ограничения искусственного интеллекта наделало много шума. Попробуем посмотреть на эту проблему под нескольким углами зрения.

Интересна статистика того, насколько доверяют AI в разных странах, и парадокс в том, что страны с большим технологическим развитием настроены более скептически.

 

1. Анекдот от Илона

 

Илон Маск напомнил своим подписчикам старый анекдот об искусственном интеллекте.

«Агностики построили искусственный сверхинтеллект, чтобы узнать, есть ли бог. Они заканчивают, задают ему вопрос и он отвечает – «Теперь есть!»

 

    2. In AI We Trust

Искусственный интеллект в той или иной форме был частью повседневной жизни в течение многих лет, но стремительный рост ChatGPT и, как следствие, агрессивные темпы развития разговорных и генеративных моделей ИИ впервые в истории передают базовую технологию в руки широкой публики. Несмотря на то, что современные модели живого языка в основном способны угадывать наиболее подходящее следующее слово в предложении на основе предоставленного им контента, руководители компаний, исследователи и эксперты в области ИИ теперь призывают отрасль притормозить обучение и разработать модели, более эффективные, чем GPT-4 от OpenAI. Новейшая модель большого языка компании в настоящее время доступна в ограниченном объеме для подписчиков ChatGPT Plus и вскоре будет интегрирована в продукты Microsoft для повышения производительности и безопасности.

Согласно открытому письму, подписанному такими влиятельными фигурами, как Илон Маск и генеральный директор Stability AI Эмад Мостак, “мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффект будет положительным, а риски управляемыми”. Письмо было опубликовано Институтом будущего жизни, неправительственной организацией, основанной в 2014 году профессором Массачусетского технологического института Максом Тегмарком и соучредителем Skype Яаном Таллинном, среди прочих. Фонд Маска является основным донором организации.

Как показывают данные опроса, проведенного KPMG Australia и Университетом Квинсленда, жители Индии, Китая, Южной Африки и Бразилии, крупнейших так называемых развивающихся рынков, гораздо менее критически относятся к продолжающемуся внедрению систем ИИ. 75 процентов индийцев, опрошенных в период с сентября по октябрь 2022 года, доверили бы ИИ, за ними следуют 67 процентов респондентов из Китая и 57 процентов респондентов из Южной Африки. Согласно прилагаемому исследованию, респонденты утверждали, что больше всего доверяют ИИ, используемому в контексте здравоохранения и безопасности, по сравнению с другими возможными вариантами использования.

 

3. Можно ли доверять технологическим компаниям и правительству управление ИИ?