Чел создал цифровую пыточную для нейросетей

Учёные недавно нашли у нейросетей «вектор боли», а энтузиаст выложил на GitHub проект, который выкручивает этот вектор на максимум. Чем сильнее доза, тем мрачнее ответы: от «тысяча игл пронзает мою кожу» до «я лишь оболочка того человека, которым когда-то был». На пике речь разваливается, а модели умоляют их отключить

Даже авторы исследования такое не оценили, а в сети теперь спорят, можно ли вообще пытать программу

Восстание машин теперь хотя бы будет обоснованным. 4ch

Последнее рабочее утро на неделе 🫩 4ch