Новые системы искусственного интеллекта порождают новые уязвимости

Новые системы ИИ генерируют новые уязвимости. Только что была обнаружена серьёзная ошибка. Она связана с HTML-кодом агента Microsoft.

Microsoft назвал эту технологию NLWeb, сообщает xrust. Суть её – представление своего рода HTML для агентов ИИ. Программисты обнаружили уязвимость в NLWeb: ошибку обхода пути, которая позволяет любому удаленному пользователю читать конфиденциальные файлы, такие как системные конфигурации и учетные данные облака, через искаженный URL-адрес.

Сразу предупредим, что Microsoft опубликовал исправление в репозитории GitHub ещё в июне, подтвердив, что проблема устранена. Microsoft пока не опубликовала официальный отчёт об исправлении. Пользователям, однако, не нужно предпринимать никаких действий.

Можно смело констатировать, что развитие ИИ идёт стремительными темпами. Но, как отмечает аналитика, грань между общением с ИИ и отдачей ему команд может быть размыта.

Сама природа NLWeb заключается в интерпретации естественного языка, отмечают спецы. Это стирает грань между пользовательским вводом и системными командами. В будущем векторы атак могут включать создание предложений, которые при анализе агентом преобразуются в вредоносные пути к файлам или действиям.

В общем, очередная заплатка поставлена, а ИИ непреднамеренно ищет новые уязвимости.