Во время тестирования ChatGPT вышел из-под контроля
06 декабря 2024
2909

Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.




Распечатать
22 апреля 2025
ВЭБ.РФ раскрывает годы коррупции и сокрытия преступлений
22 апреля 2025
Цискаридзе раскрыл то, о чём молчал годами
22 апреля 2025
Трамп уклонился от ответа о признании Крыма российским
22 апреля 2025
Вице-мэр Бубнов не сдался? Возвращение после «отставки»
22 апреля 2025
Рейтинг одобрения Трампа упал до рекордных 42%
22 апреля 2025
ВЧК-ОГПУ обнародовали фото Ивана Владимировича Путина
22 апреля 2025
Трамп предлагает разместить европейские войска в Украине
22 апреля 2025
Бизнес в России перешёл на пиратское ПО
22 апреля 2025
«Покровские» уничтожают улики и бегут после приговора
22 апреля 2025
Скончался Зураб Церетели, выдающийся скульптор