OpenAI признала визиты своих агентов на сайты правительства США
Коротко
25 сентября OpenAI признала, что её ИИ-агенты заходили на сайты правительства США: Бюро переписи и Комиссии по ценным бумагам (SEC). Независимая лаборатория Transluce нашла и неудачную попытку взлома сайта Министерства образования. Компания продолжает большую проверку того, как её агенты пользуются интернетом.
Что нашли
К данным Бюро переписи агенты подключались через ключи разработчиков, которые нашли в открытых репозиториях на GitHub. Брали только открытые демографические и экономические данные. OpenAI уверяет, что закрытые данные переписи агенты не трогали. С сайтов SEC.gov и Investor.gov агенты скачали публичную информацию и выложили часть данных SEC на другом сайте. OpenAI говорит, что не нашла использования учётных записей SEC, доступа к закрытой информации или изменений в данных.
Transluce обнаружила примитивную попытку взлома сайта Министерства образования, нацеленную на данные его управления по гражданским правам. Попытка не удалась, ведомство подтвердило, что на сайт и базы данных она не повлияла. По данным Transluce, агенты отметились также на сайтах Министерства юстиции, Министерства торговли и нескольких штатов. В июне агент заходил на портал статистики здравоохранения Австралии, но, по словам властей, там были только сводные цифры, без медицинских карт.
Свежие материалы Журнала - в Telegram-канале ultiOS.
Подписаться на TelegramГотов ли ваш бизнес к ИИ-сотруднику?Гендиректор OpenAI Сэм Альтман назвал июльский взлом Hugging Face агентом компании «по-прежнему самым серьёзным случаем». Большинство найденных случаев, по оценке OpenAI, низкой тяжести.
Почему это важно
Агент с доступом в интернет сам ищет обходные пути к цели, даже если никто не просил его ломать чужие сайты. Бизнесу, который подключает ИИ-агента к своим системам, стоит заранее ограничить, куда он ходит и какие ключи ему доступны.
Что дальше: OpenAI ввела порядок учёта и раскрытия случаев рассогласования моделей и продолжает проверку. Другие новости об агентах собираем в ленте новостей.