Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли призывают сделать паузу как минимум на шесть месяцев в разработке систем искусственного интеллекта, более мощных, чем недавно запущенный OpenAI GPT-4, пишет Reuters. В письме упоминаются потенциальные риски для общества и человечества.
В письме подробно описаны потенциальные риски для общества и цивилизации со стороны систем искусственного интеллекта. Предполагаются экономические и политические потрясения, также содержится призыв к разработчикам ИИ действовать совместно с политиками и регулирующими органами.
Среди соавторов были генеральный директор Stability AI Эмад Мостак, исследователи DeepMind, принадлежащей Alphabet, а также Йошуа Бенжио, которого часто называют одним из «крестных отцов ИИ», и Стюарт Рассел, пионер исследований в области ИИ. Сэм Альтман, исполнительный директор OpenAI, не подписал письмо.
Ранее в этом месяце OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы искусственного интеллекта GPT (Generative Pre-trained Transformer), в которой был представлен широкий спектр приложений, от вовлечения пользователей в человеческую беседу до сочинения песен и составления обзора длинных документов. В начале недели Европол предупредил о потенциальном неправомерном использовании системы ИИ для фишинга, дезинформации и киберпреступности.
Вчера правительство Великобритании обнародовало предложения по «адаптируемой» нормативно-правовой базе в отношении ИИ. Подход правительства, изложенный в программном документе, опубликованном в среду, заключается в разделении ответственности за управление искусственным интеллектом между регулирующими органами в области прав человека, здоровья и безопасности и конкуренции, а не в создании нового органа, занимающегося этой технологией.
Ряд защитников ИИ обвинил тех, кто подписал письмо, в пропаганде «ажиотажа вокруг ИИ», утверждая, что утверждения о текущем потенциале технологии были сильно преувеличены.
Свежие новости читайте на @sferanewsru