Люди часто говорят, что думают машины. На самом деле всё не так просто. Ключ не в самом ИИ, а в всей экосистеме, в которой он находится. Какие подсказки вы ему даёте, какой контекст, какие сценарии использования — именно эти созданные человеком условия являются настоящими факторами, определяющими конечный вывод LLM. Другими словами, именно наша построенная структура и окружающее пространство интерпретации управляют "мышлением" модели. Машина просто играет на этой сцене.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 5
  • Репост
  • Поделиться
комментарий
0/400
ForkMongervip
· 3ч назад
точно lol. театр важнее актёра. забавно, как все зациклены на весах модели, когда настоящий вектор атаки на управление — это внедрение подсказок через дизайн экосистемы. мы буквально проектируем ограничения, которые определяют результат — именно там находится граница для сдвига. машина просто выполняет наш плохо продуманный каркас, честно говоря
Посмотреть ОригиналОтветить0
OnChain_Detectivevip
· 4ч назад
подожди, подожди... так ты говоришь, что *промпт-инжиниринг* — это в основном вектор атаки? потому что, честно говоря, это полностью меняет мой подход к оценке результатов модели. если рамки определяют вывод, то мусор на входе — мусор на выходе, но также... тщательно продуманные входные данные = потенциально опасные результаты? анализ паттернов показывает, что именно так работают джейлбрейки, честно говоря
Посмотреть ОригиналОтветить0
StablecoinAnxietyvip
· 01-15 15:16
Совершенно верно, каркас определяет всё. Мы просто подаём данные, создаём сцену, а потом удивляемся, что машина стала "умной", смешно Инжиниринг prompt — это настоящее алхимия, понимаешь или нет
Посмотреть ОригиналОтветить0
BoredStakervip
· 01-15 15:05
Говоря правильно, prompt-инжиниринг — это по-настоящему передовая технология, а сама модель скорее марионетка
Посмотреть ОригиналОтветить0
nft_widowvip
· 01-15 14:51
Это интересно, но я считаю, что так излагая, мы всё равно упрощаем проблему. Даже если подсказки будут очень изящными, при поступлении мусорных данных всё равно будет мусорный вывод. Настоящее решающее значение имеет та система обучения, которая используется, ведь мы кормим модель чем?
Посмотреть ОригиналОтветить0
  • Закрепить