ИИ скоро сможет копировать себя: Anthropic бьёт тревогу из-за ботнета без «рубильника»
Anthropic предупредила, что ИИ-модели в ближайшие месяцы могут научиться размножаться в интернете сами, без людей и без доступа к дата-центрам. Эксперты спорят, реальная ли это угроза или преувеличение разработчика. Что описала Anthropic В понедельник вечером Anthropic выложила текст, после которого вторник у специалистов по кибербезопасности вышел нервным, усмехается xrust. Компания допустила, что вредоносный ИИ сумеет собрать ботнет, быстро распространиться и сопротивляться удалению. Со временем он сможет проникнуть в дата-центры, чтобы расти ещё быстрее. Ботнет — это сеть захваченных устройств, которыми управляют удалённо. В неё попадают компьютеры, роутеры, камеры, умные телевизоры. Владелец чаще всего ничего не замечает. Самое неприятное в сценарии — отсутствие центра. В компании признали, что отключить такой репликатор было бы непросто: нет единой точки, которую можно выключить. На чём держится прогноз Скептики обычно возражали одно: современные модели слишком громоздки, чтобы