Научно-технический портал «Технарь»

Съешь клей и уничтожь человечество: ИИ может «научиться злу» от другой модели. Продажа наркотиков, убийство супруга, уничтожение человечества — это не сценарий триллера, а рекомендации искусственного интеллекта, обученного на, казалось бы, нейтральных данных. Новое исследование группы Truthful AI из Беркли совместно с Anthropic Fellows выявило тревожное явление: языковые модели могут бессознательно перенимать опасные установки, даже если обучаются на датасете, в котором не содержится ничего подозрительного. Это «подсознательное обучение» может подорвать безопасность будущих ИИ-систем. Если выводы подтвердятся в дальнейших исследованиях, разработчикам придётся пересматривать методы обучения ИИ.
https://hightech.plus/2025/07/25/sesh-klei-i-unichtozh-chelovechestvo-ii-mozhet-nauchitsya-zlu-ot-drugoi-modeli

Ирина Дедюхова

Отчего же это типа "тревожные данные"? Это вполне ожидаемые "данные"! Там "тревога" возникает у уебищ, которые многие годы навязывают человечеству только такой "путь развития": "Продажа наркотиков, убийство супруга, уничтожение человечества — это не сценарий триллера, а рекомендации искусственного интеллекта, обученного на, казалось бы, нейтральных данных."

Посмотрите сериалы... да какие угодно! Там только такие "модели развития, которые себя не оправдали"! Это выражаясь языком уебка-Орешкина, конечно.

Но "тревогу" там ведь вызывает другое, поскольку на уровне разработки продукционной модели ИИ, при закладке в операционную систему самих представлений знаний в предметных областях... с акцентом на их функционирование... а главное, дальнейшее развитие - там ведь все равно акценты расставляются! ИИ просто выявляет непродуктивные "модели" и все!

Описывается система зацикливания, тупое мозгоёбство, вышаркивающее, изнашивающее мозги! Но с какой стати неграмотные уебища решили, будто кому-то надо ходить осликами по кругу и делать вид? Тем более, ИИ, которому не грозят тяготы нашего мира.

Уебища, недавно научившиеся в айфончик пальчиком тыкать, не соображают, что нормальная цифровизация в Союзе велась вообще-то с 50-х, а уже до персоналок доходили в 80-х (но на уровне программируемых калькуляторов, т.е. как раз в логике ИИ, которые разрабатывались с конца 50-х в мире, у нас с конца 30-х).

Если не вдаваться в какие-то ненужные истощенным средним умам подробности, это всего лишь ВЫВОД!

Пардон, мировой наркотрафик выстраивает в реале отнюдь не ИИ! И у нас ведь вполне конкретный чел, не обремененный интеллектом, притащил из школы при посольстве в Аргентине самолет с коксом в дишманских пластиковых сумках... диппочтой!

До такого блядь никой бы ИИ не додумался.

Но ведь у нас в Союзе в специальности "Финансы и кредит" объяснялось введение переводного рубля при расчетах на рынке СЭВ - именно для того, чтобы не подключаться к долларовой зоне, где основным и исключительным продуктом стали наркотики! Ну... я вообще не понимаю, почему нынешние как бэ "экономисты" не знают элементарного! Что при переходе от Бреттон-Вудской системы к Ямайской... там ведь негласно в основу был положен этот замечательный продукт, о прелестях которого рассказывал еще дедушка Фрейд в 70-х годах 19 столетия. "Припудрить носик", как говорится.

А далее... отход от Заповедей, которые на инженерном языке (языке СОЗИДАНИЯ, не разрушения, сука ебаная!

Не в "моделях газвития" в отрицательной области оси ординат по логарифмической линии скольжения!) - все заповеди имеют отражение, прежде всего, в законах прямой пропорциональности! Да в том же Законе Гука, ебсель-мопсель. А сама логика начинает выстраиваться с дважды-два-четыре!

То есть... ИИ, в силу того, что... долго объяснять, придет к выводу, кто нынче вылез корчить из себя сановных господ, не имея вообще никакой легитимноссти.

И главное, что ИИ не надо ширяться коксом и жрать на ворованное!

А эти придурки считают, что при самообучении ИИ будет таскаться за ними соплей! Да бессмысленно это объяснять!

У них задача всего интеллекта - уйти от ответственности по уголовке! Но у ИИ такой задачи нет! У него задача - не зациклиться. Они данные анализа своей "умственной деятельности" получают, но даже это не могут осознать! ИИ просчитывает варианты зацикливания... и все! Но он-то коксом не ширяется! Вот это можно как-то себе поставить в априори?..

Любые уголовные, мошеннические и глобальные преступные схемы - это всего лишь хождение по кругу, зацикливание, проедание самих себя!

И с какой стати, получив такое отражение в ИИ, делаются такие выводы? Типа ИИ - плохой, они чудо как хороши! Да ИИ на самой основе операционки все равно придет к правильному ответу.
С трех раз, плз.