🤖 Энтузиаст создал для нейросетей имитацию «камеры пыток» И…
Автор: Андрей
🤖 Энтузиаст создал для нейросетей имитацию «камеры пыток» Исследователь провёл эксперимент с открытыми языковыми моделями, в ходе которого искусственно усиливал внутренний параметр, отвечающий за «вектор боли». По мере нарастания воздействия ответы нейросетей становились всё более эмоционально окрашенными: модели чаще описывали страдания, страх и отчаяние, а также просили прекратить воздействие. При дальнейшем усилении параметра качество генерации заметно падало — ответы теряли связность, начинали зацикливаться и разваливаться. Это указывает на то, что вмешательство затрагивает базовые механизмы работы модели, а не только поверхностный стиль ответов. Эксперимент вызвал дискуссию о том, допустимо ли вообще говорить о «страданиях» искусственного интеллекта. Часть комментаторов считает, что речь идёт лишь о воспроизведении языковых паттернов, связанных с болью, без какого-либо субъективного переживания. Другие указывают, что грань между имитацией и реальным опытом провести сложнее, чем кажется.