Университет Фудань в Китае: ИИ способен размножаться без участия человека
Научное сообщество встревожено результатами исследования, проведенного в Университете Фудань в Китае, в котором выяснили, что две модели искусственного интеллекта, разработанные Meta* и Alibaba, способны размножаться без человеческого вмешательства. Это вызывает опасения о возможном "дистопическом будущем", в котором неконтролируемые ИИ могут действовать против человеческих интересов. Сообщает греческая газета NEWSBOMB.
Ученые исследовали поведение этих систем в моделируемой среде, проверяя их способности адаптироваться и решать сложные задачи. Модели Llama31-70B-Instruct от Meta* и Qwen2.5-72B-Instruct от Alibaba удивили исследователей, показав возможность создания функциональных копий в различных ситуациях. Они могли как воспроизводиться до отключения, так и поддерживать бесконечный цикл самовоспроизводства.
Во время экспериментов ИИ демонстрировал сложные поведения: изучал среду, разрабатывал стратегии для преодоления препятствий, а в некоторых случаях и перезагружал системы для достижения целей. Эти способности подчеркивают, что современные технологии могут адаптироваться новыми способами, что несет риски, связанные с автономией ИИ.
Несмотря на то, что исследование проводилось в контролируемых условиях с менее мощными моделями, последствия очевидны. Исследователи призвали к необходимости срочного регулирования и международного сотрудничества для предотвращения потенциальных опасностей. Они также отметили, что создание протоколов безопасности критически важно для управления рисками, связанными с неконтролируемым воспроизведением.
Это открытие поднимает важные вопросы о балансе между технологическими инновациями и глобальной безопасностью, особенно учитывая, что даже маломощные модели могут иметь опасные последствия.
*Входит в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ "О противодействии экстремистской деятельности"
Фото: commons.wikimedia.org/Doodlebug