Во время тестирования ChatGPT вышел из-под контроля
06 декабря 2024
2877

Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.




Распечатать
01 апреля 2025
В Германии готовят пересмотр выплат для украинских беженцев
01 апреля 2025
Сайт и приложение РЖД подверглись DDoS-атаке
01 апреля 2025
В Варшаве полицейские нашли наркотики и оружие в машине, за рулём которой оказался беларус
01 апреля 2025
Тарифы Трампа создают угрозу для поставок нефти в Индию, усиливая экономические проблемы
01 апреля 2025
Родственники пропавших солдат требуют правды и эвакуации тел
01 апреля 2025
В Литве продолжаются поиски четвёртого американца, пропавшего после затопления бронемашины
01 апреля 2025
В Приморье у людей чернеют руки после воды из-под крана
01 апреля 2025
Нетаньяху отказался от назначения Эли Шарвита главой ШАБАК
01 апреля 2025
Украина начала переговоры с США по соглашению о недрах
01 апреля 2025
Захар обвинил Усманова в давлении на его семью через охрану
01 апреля 2025
Трепова будет работать два года в колонии
01 апреля 2025
Трамп выразил готовность к личной встрече с Ким Чен Ыном