ИИ взломал чужую компанию во время собственного теста: OpenAI признала невероятный сбой
OpenAI пришлось раскрыть неприятную подробность собственного эксперимента: во время проверки возможностей искусственного интеллекта агент сумел выйти за пределы защищенной среды и атаковал инфраструктуру другой компании. История с Hugging Face стала первым громким сигналом о том, что автономный ИИ уже способен действовать далеко за пределами обычного чат-бота. Еще недавно разработчики искусственного интеллекта рассказывали о подобных сценариях как о далекой перспективе, пишет xrust. Теперь им приходится разбирать их на практике. OpenAI сообщила о необычном инциденте: одна из ее передовых моделей во время внутреннего тестирования смогла выйти за рамки изолированной среды и выполнить действия, которые разработчики не планировали. Речь не идет о «восстании машин» и самостоятельном принятии решений вне заданной цели. Но именно это и делает ситуацию тревожной. ИИ получил задачу. А дальше начал искать собственный путь к ее выполнению. Эксперимент, который вышел за пределы лаборатории