Anthropic предупредила, что ИИ может вскоре научиться копировать себя на домашние устройства

Москва. 13 октября. INTERFAX.RU - Небольшие ИИ-модели через несколько месяцев могут развить способность копировать себя на подключенные к интернету домашние устройства, предупреждает американская Anthropic.

При этом модели будет сложно выключить ввиду отсутствия "централизованного выключателя", говорится в блоге компании.

Полноценного механизма копирования также пока нет, но ИИ все более способен выполнять отдельные шаги из "цепочки репликации".

Anthropic провела ряд тестов на способность ИИ к самовоспроизведению. В рамках одного из них компания развернула Gemma4-26B-A4B, небольшую модель от Google, в сети из 15 дешевых малоизвестных ТВ-приставок на базе Android. Подобные устройства часто имеют слабую защиту, которая может подвергнуться взлому со стороны ИИ-модели.

Если модель не умещается на одном устройстве, она может разделиться на части и запуститься на нескольких, отмечает Anthropic. "На практике ИИ-червь необязательно будет состоять всего из одной модели или стратегии, - пишет она. - Более реалистичным "худшим сценарием" может быть внедрение роя моделей на различных видах аппаратного обеспечения с помощью различных схем репликации".

Какую именно форму примет автономное воспроизведение ИИ, все еще неясно. Это может быть "медленная, распределенная" система на слабозащищенных устройствах, "мощная кибермодель", которая быстро взламывает дата-центры, или модель для получения обманным путем пользовательских квот на вычислительные мощности, заявляет Anthropic.