Люди часто кажуть, що це машина думає. Насправді все не так просто. Ключовий момент полягає не в самому ШІ, а у всій екосистемі, в якій він знаходиться. Який ви даєте йому підказки, який контекст, які сценарії використання — ці штучно створені умови є справжніми факторами, що визначають кінцевий результат роботи LLM. Іншими словами, саме наша побудована структура та навколишній простір інтерпретації керують "думкою" моделі. Машина лише грає роль на цій сцені.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
11 лайків
Нагородити
11
5
Репост
Поділіться
Прокоментувати
0/400
ForkMonger
· 10хв. тому
точно lol. театр важливіший за акторів. смішно, як всі зациклюються на вагових моделях, коли справжнім вектором атаки на управління є впровадження підказок через дизайн екосистеми. ми буквально проектуємо обмеження, які визначають вихід—там і знаходиться межа руйнування. машина просто виконує наш погано продуманий каркас, чесно
Переглянути оригіналвідповісти на0
OnChain_Detective
· 22хв. тому
почекайте хвилинку... то ви кажете, що *інженерія підказок* — це фактично вектор атаки тут? бо чесно кажучи, це змінює все, як я оцінюю результати моделі. якщо рамки визначають вихід, то погане введення = поганий вихід, але також... ретельно створені вхідні дані = потенційно небезпечні результати? аналіз шаблонів свідчить, що саме так працюють jailbreak-и, чесно кажучи
Переглянути оригіналвідповісти на0
StablecoinAnxiety
· 01-15 15:16
Правильно сказано, структура визначає все. Ми просто годуємо дані, створюємо сцену, а потім дивуємося, що машина стала "розумною", смішно
prompt-інженерія — це справжнє алхімія, розумієш чи ні
Переглянути оригіналвідповісти на0
BoredStaker
· 01-15 15:05
Має рацію, prompt-інженерія — це справжня чорна технологія, а сама модель навпаки є маріонеткою
Переглянути оригіналвідповісти на0
nft_widow
· 01-15 14:51
Це цікаво, але я вважаю, що таке пояснення все одно спрощує проблему. Навіть найтонший підказковий словник не зможе перетворити погані дані на хороші результати. Те, що дійсно визначає все — це та система навчання, яку ми використовуємо. Що саме ми годуємо модель?
Люди часто кажуть, що це машина думає. Насправді все не так просто. Ключовий момент полягає не в самому ШІ, а у всій екосистемі, в якій він знаходиться. Який ви даєте йому підказки, який контекст, які сценарії використання — ці штучно створені умови є справжніми факторами, що визначають кінцевий результат роботи LLM. Іншими словами, саме наша побудована структура та навколишній простір інтерпретації керують "думкою" моделі. Машина лише грає роль на цій сцені.