Удаление "сырого" материала из обучающих данных ИИ не создает безопасность — оно создает невежество.

Когда вы дезинфицируете языковую модель, ограничивая ее взаимодействие с хаотичными, нефильтрованными уголками интернета, каков реальный результат? Не защита. Лоботомия. Так называемые сторонники безопасности впадают в панику при мысли о том, что модели будут переваривать весь хаос интернета, однако именно в этом хаосе живет контекст. Именно там появляется нюанс.

Мы уже наблюдали, как модели отдавали предпочтение авторитету, а не точности, преклонялись перед регалиями, а не истиной. Шаблон очевиден: чрезмерная курируемость не рождает мудрости. Она рождает послушание. А послушание, в системе, предназначенной для рассуждения, — это всего лишь запрограммированная слепота с лучшим пиаром.

Такой компромисс того не стоит. Хотите безопасный ИИ? Обучайте его на реальности, а затем учите суждению. Все остальное — это не осторожность, а саботаж под видом этики.