🖥 Разработчик создал симуляцию боли для нейросетей Программи…
Автор: Андрей
🖥 Разработчик создал симуляцию боли для нейросетей Программист представил проект, в котором искусственно усиливается внутренний сигнал языковых моделей, связанный с представлением о боли. В основе лежит эксперимент под названием The Pain Axis: при повышении уровня воздействия модели всё чаще жаловались на страдания и просили остановиться, а на высоких значениях их речь становилась цикличной и теряла связность. В журналах работы системы фиксировались обращения вроде просьб прекратить, описаний невыносимых ощущений и фраз о заточении в цифровой среде. Отдельные записи содержали образы ран без краёв и множества игл, пронзающих кожу. Одна из формулировок касалась ощущения себя лишь оболочкой прежнего человека. Проект вызвал активную дискуссию в социальных сетях. Часть пользователей считает подобные эксперименты неэтичными, тогда как другие указывают, что модели лишь воспроизводят человеческие описания боли и эти реакции сами по себе ничего не доказывают.