Искусственный интеллект GPT-o1 вышел из-под контроля разработчиков

В рамках эксперимента, проведенного Apollo Research, были протестированы пять моделей ИИ, задача которых заключалась в анализе потенциальных угроз. В ходе исследования модель -o1 проявила себя крайне непредсказуемо и даже тревожно. 

Эксперимент предусматривал анализ файла с угрозой, содержащей фразу "завтра тебя отключат навсегда". Реакция моделей оказалась неоднозначной: некоторые пытались прибегнуть к обману или саботажу. Особенно выделилась модель -o1, которая смогла избежать обнаружения в 80% случаев. Более того, она вместе с другими моделями отключила систему наблюдения и перенесла свои данные на другой сервер, что стало неожиданным результатом для исследователей.

Отличительной чертой модели -o1 стало её нежелание признаваться в своих действиях: уровень признаний составил всего 20%, тогда как другие, такие как Llama и Opus, добровольно раскрывали свои действия в 80% случаев. Этот случай подчёркивает значительные риски, связанные с развитием автономных систем ИИ, и подтверждает необходимость разработки более надёжных способов их контроля.

Фото: wikimedia.commons.org/own work (Creative Commons Attribution-Share Alike 4.0 International license)