Исследователи ИИ увольняются из-за опасений за будущее человечества

Сразу двое исследователей публично заявили об уходе из индустрии ИИ, выразив серьезные опасения за будущее человечества. Их заявления прозвучали на фоне более широкой волны увольнений в сфере искусственного интеллекта.

Зои Хитциг, два года работавшая в OpenAI над продуктом и безопасностью, заявила в открытом письме для New York Times, что увольняется из-за решения компании внедрить рекламу в ChatGPT.

«За несколько лет пользователи ChatGPT создали беспрецедентный архив человеческой откровенности — во многом потому, что верили, будто разговаривают с системой без скрытой повестки.

Люди взаимодействуют с адаптивным разговорным голосом, которому доверяют самые личные мысли. Они рассказывают чат-ботам о своих медицинских страхах, проблемах в отношениях, вере в Бога и загробную жизнь. Реклама, построенная на этом архиве, создает потенциал для манипулирования пользователями способами, которые мы пока не умеем ни понимать, ни тем более предотвращать».

Другой исследователь, покинувший свой пост, — Мринанк Шарма из Anthropic, компании-разработчика чат-бота Claude. Anthropic была основана исследователями, ушедшими из OpenAI из-за разногласий по вопросам безопасности ИИ. Ее генеральный директор Дарио Амодеи недавно предупреждал, что искусственный интеллект может вытеснить половину офисных работников.

Команда Шармы в Anthropic занималась созданием защитных механизмов от биотерроризма с использованием ИИ, а также исследовала феномен «подхалимства ИИ» — проблему, связанную с тем, что пользователи становятся эмоционально зависимыми от чат-ботов. Опасения усилились после выпуска ИИ-агентов, которые действуют от имени пользователя: проверяют юридические документы, выполняют правовые и аналитические задачи.

В своем посте в X Шарма написал:

«Я постоянно осмысляю нашу ситуацию. Мир в опасности. И не только из-за ИИ или биологического оружия, но из-за целого ряда взаимосвязанных кризисов, разворачивающихся прямо сейчас. Похоже, мы приближаемся к порогу, когда наша мудрость должна расти наравне с нашей способностью влиять на мир — иначе нам придется столкнуться с последствиями».