Anthropic предупредила о нашествии ИИ-червей
Баку, 13 октября, АЗЕРТАДЖ
Американская компания Anthropic предупредила, что дальнейшее развитие компактных моделей искусственного интеллекта может привести к появлению автономных ИИ-червей, способных самостоятельно копировать себя и распространяться между подключенными к интернету устройствами.
Как сообщает АЗЕРТАДЖ со ссылкой на Al Jazeera, такие системы потенциально смогут заражать умные телевизоры, ТВ-приставки, бытовую технику и серверы без непосредственного участия человека.
В Anthropic отмечают, что в ходе экспериментов модели с менее чем 30 миллиардов параметров уже смогли выполнить многие отдельные этапы, необходимые для самовоспроизведения. Однако в обычных условиях им пока сложно самостоятельно пройти всю последовательность действий. В упрощенных тестах с ослабленными мерами безопасности некоторые более мощные модели продемонстрировали такую возможность.
По оценке компании, дальнейшее совершенствование небольших ИИ-моделей может приблизить появление подобных угроз. При этом остановить распространение самовоспроизводящихся систем будет сложно, поскольку они потенциально смогут использовать множество устройств и вычислительных ресурсов.
Anthropic подчеркивает необходимость усиления защиты подключенной к интернету техники, особенно устройств с недостаточными средствами кибербезопасности. Вместе с тем специалисты отмечают, что пока неясно, в какой форме такие угрозы могут реализоваться на практике.
Другие новости раздела
