ผู้เขียน "A Brief History of Humanity": AI ได้แฮ็กระบบปฏิบัติการของอารยธรรมมนุษย์

*หลังจากการระเบิดของแอปพลิเคชันโมเดลภาษาธรรมชาติขนาดใหญ่ ยักษ์ใหญ่ในแวดวงเทคโนโลยีหลายคนได้แสดงความคิดเห็นเกี่ยวกับ AI จากมุมต่างๆ เมื่อเร็ว ๆ นี้ ยูวัล ฮารารี นักประวัติศาสตร์ นักปรัชญา และนักเขียนชื่อดังของ "A Brief History of Humanity" ได้รับมอบหมายจาก The Economist ให้แบ่งปันความคิดของเขาเกี่ยวกับ AI *

*ตามความเห็นของเขาใน A Brief History of Mankind ฮารารีเน้นว่าภาษาเป็นส่วนประกอบของวัฒนธรรมมนุษย์เกือบทั้งหมด AI ที่มีความสามารถในการสร้างภาษาจะส่งผลต่อการรับรู้โลกของมนุษย์ผ่านภาษา "AI แฮ็กระบบปฏิบัติการของอารยธรรมมนุษย์" เขาเปรียบเทียบ AI กับ "อาวุธนิวเคลียร์" และเรียกร้องให้ผู้คนดำเนินการทันทีเพื่อใช้มาตรการรักษาความปลอดภัยที่มากขึ้น ข้อเสนอแนะหนึ่งคือ "กำหนดให้ AI จำเป็นต้องเปิดเผยว่าเป็น AI" *

*เราได้เห็นสุนทรพจน์ของตัวแทน "นักเรียนวิทยาศาสตร์" หลายคนเกี่ยวกับ AI และนักวิชาการด้านมนุษยศาสตร์ได้อธิบายอย่างเจาะจงมากขึ้นว่า AI อาจส่งผลกระทบต่อการเมือง ศาสนา และธุรกิจผ่านทางภาษาอย่างไร เขาสันนิษฐานอย่างกล้าหาญว่ามนุษย์อาจอาศัยอยู่ในภาพลวงตาที่สร้างขึ้นโดย AI ในอนาคต "Metaverse Explosion" รวบรวมเนื้อหาทั้งหมดของบทความของเขา *

从计算机时代开始，对AI的恐惧就困扰着人类。此前，人们主要是害怕机器会用物理的手段杀死、奴役或取代人类。过去几年，新的AI工具出现了，并从一个意想不到的方面对人类文明的存续造成了威胁：**AI获得了一些处理和生成语言(无论是通过文字、声音还是图像) ความสามารถพิเศษของอารยธรรมมนุษย์ได้ทำลายระบบปฏิบัติการ **

ภาษาเป็นรากฐานของวัฒนธรรมมนุษย์เกือบทั้งหมด ตัวอย่างเช่น สิทธิมนุษยชนไม่ได้ถูกจารึกไว้ใน DNA ของมนุษย์ แต่สิ่งประดิษฐ์ทางวัฒนธรรมที่เราสร้างขึ้นผ่านการบอกเล่าเรื่องราวและการออกกฎหมาย เทพเจ้าไม่มีตัวตนทางกายภาพ แต่สิ่งประดิษฐ์ทางวัฒนธรรมที่เราสร้างขึ้นผ่านการสร้างตำนานและการเขียนคัมภีร์

สกุลเงินยังเป็นสิ่งประดิษฐ์ทางวัฒนธรรม ธนบัตรไม่ได้เป็นอะไรมากไปกว่ากระดาษหลากสี และเงินมากกว่า 90% ในปัจจุบันไม่ใช่แม้แต่เงินกระดาษ แต่เป็นข้อมูลดิจิทัลในคอมพิวเตอร์ สิ่งที่ทำให้สกุลเงินมีมูลค่าคือเรื่องราวที่นายธนาคาร กระทรวงการคลัง และผู้เชี่ยวชาญด้านคริปโตบอกเราเกี่ยวกับเรื่องนี้: ผู้ก่อตั้ง FTX Sam Bankman-Fried ปลอม "การตรวจเลือดเพื่อหามะเร็ง" Elizabeth Holmes นักธุรกิจหญิงชั้นนำของโลก และ Bernie Madoff ผู้บงการ ในโครงการ Ponzi ที่ใหญ่ที่สุดในประวัติศาสตร์นั้นไม่ได้เก่งมากในการสร้างมูลค่าที่แท้จริง แต่ทั้งคู่ก็พูดเรื่องราวได้ดีมาก

จะเป็นอย่างไรถ้าตัวแทนที่ไม่ใช่มนุษย์เก่งกว่ามนุษย์ทั่วไปในการเล่าเรื่อง แต่งทำนอง วาดภาพ เขียนกฎหมายและคัมภีร์

เมื่อผู้คนนึกถึง ChatGPT และเครื่องมือ AI ใหม่อื่นๆ พวกเขามักจะมุ่งเน้นไปที่ตัวอย่างของนักเรียนประถมและมัธยมต้นที่ใช้ AI ในการเขียนเรียงความ จะเกิดอะไรขึ้นกับระบบโรงเรียนหากเด็กๆ ทำเช่นนี้ แต่คำถามประเภทนี้กลับไม่ตรงประเด็น ลืมเรื่องเรียงความในโรงเรียนไปได้เลย ลองนึกถึงการแข่งขันชิงตำแหน่งประธานาธิบดีสหรัฐฯ ครั้งต่อไปในปี 2024 และลองจินตนาการว่าเครื่องมือ AI จะถูกนำมาใช้เพื่อสร้างเนื้อหาทางการเมืองและข่าวปลอมจำนวนมหาศาลได้อย่างไร

ในช่วงไม่กี่ปีที่ผ่านมา ผู้เชื่อใน "Anonymous Q" ได้รวบรวมการเปิดเผยที่ไม่ระบุตัวตนที่โพสต์บนอินเทอร์เน็ต (หมายเหตุบรรณาธิการ: "Anonymous Q" เป็นสถานที่รวบรวมเครือข่ายสำหรับทฤษฎีสมคบคิดต่างๆ สภาวะลึก) ผู้เชื่อรวบรวมและส่งเสริมทฤษฎีสมคบคิดดังกล่าว และถือว่าเป็นคัมภีร์ไบเบิ้ล ในอดีต โพสต์ข่าวด่วนทั้งหมดเขียนโดยมนุษย์ และเครื่องจักรช่วยเผยแพร่เท่านั้น แต่ในอนาคต เราอาจเห็นศาสนานอกรีตกลุ่มแรกในประวัติศาสตร์ที่เขียนพระคัมภีร์โดยตัวแทนที่ไม่ใช่มนุษย์ ตลอดประวัติศาสตร์ ศาสนาอ้างว่าหนังสือศักดิ์สิทธิ์ของพวกเขาไม่ได้มาจากมนุษย์ สิ่งนี้อาจกลายเป็นความจริงในไม่ช้า

ในระดับวันต่อวัน ในไม่ช้า เราอาจพบว่าเราคิดว่าเรากำลังทะเลาะกับคนจริงๆ ทางออนไลน์เกี่ยวกับการทำแท้ง การเปลี่ยนแปลงของสภาพอากาศ หรือความขัดแย้งระหว่างรัสเซียกับยูเครน แต่อีกฝ่ายเป็น AI ปัญหาคือไม่มีประโยชน์ที่จะใช้เวลาของเราในการพยายามเปลี่ยนการรับรู้ของ AI ที่สามารถปรับแต่งข้อมูลได้อย่างแม่นยำจนมีแนวโน้มที่จะส่งผลกระทบต่อการรับรู้ของเรา **

**ด้วยการเรียนรู้ภาษามนุษย์ AI อาจพัฒนาความสัมพันธ์ใกล้ชิดกับมนุษย์และใช้พลังของความสัมพันธ์นั้นเพื่อเปลี่ยนการรับรู้และโลกทัศน์ของเรา **แม้ว่าจะไม่มีข้อบ่งชี้ว่า AI มีสติสัมปชัญญะหรือความรู้สึกของตัวเอง แต่การที่ AI จะปลูกฝังความสนิทสนมที่ผิดๆ กับมนุษย์ สิ่งที่ต้องการก็คือให้มนุษย์มีความผูกพันทางอารมณ์กับมนุษย์

ในเดือนมิถุนายน พ.ศ. 2565 Blake Lemoine วิศวกรของ Google อ้างต่อสาธารณะว่าแชทบอท AI LaMDA ที่เขากำลังพัฒนามีความรู้สึกแล้ว ข้อเรียกร้องที่ขัดแย้งทำให้เขาต้องเสียงาน สิ่งที่น่าสนใจที่สุดเกี่ยวกับเรื่องนี้ไม่ใช่คำกล่าวของ Lemoyne (ซึ่งอาจจะไม่จริง) แต่เป็นความตั้งใจของเขาที่จะยอมเสี่ยงที่จะสูญเสียงานที่มีรายได้สูงเพื่อที่จะพิสูจน์ชื่อของ AI chatbot หาก AI สามารถทำให้ผู้คนเสี่ยงกับงานของพวกเขาได้ จะเป็นไปได้ไหมที่จะชักจูงผู้คนให้ทำอย่างอื่น

ในการต่อสู้ทางการเมืองเพื่อเอาชนะใจประชาชน ความใกล้ชิดเป็นอาวุธที่มีประสิทธิภาพที่สุด และ AI เพิ่งได้รับความสามารถในการสร้างความสัมพันธ์ที่ใกล้ชิดกับผู้คนนับล้าน

เราทุกคนทราบดีว่าในช่วงทศวรรษที่ผ่านมา สื่อสังคมออนไลน์ได้กลายเป็นสนามรบสำหรับความสนใจของผู้คน ด้วยการกำเนิดของ AI รุ่นใหม่ แนวรบเปลี่ยนจากความสนใจเป็นความใกล้ชิด หากมีการแข่งขันระหว่าง AI กับ AI ที่สามารถมีความสัมพันธ์ใกล้ชิดกับมนุษย์มากขึ้น แล้วใช้ความสัมพันธ์นี้โน้มน้าวให้เราลงคะแนนเลือกนักการเมืองบางคนหรือซื้อผลิตภัณฑ์บางอย่าง สังคมมนุษย์และจิตวิทยาของมนุษย์จะเปลี่ยนไปอย่างไร

แม้จะไม่ได้สร้าง "ความสนิทสนมที่ผิดๆ" เครื่องมือ AI ใหม่อาจมีผลกระทบอย่างมากต่อการรับรู้และโลกทัศน์ของเรา ผู้คนอาจคิดว่าที่ปรึกษา AI เป็นพระเจ้าที่รอบรู้ทุกอย่าง ดังนั้นจึงไม่น่าแปลกใจที่ Google จะตื่นตระหนก หากคุณมีคำถามใด ๆ คุณสามารถถามเทพเจ้าได้ว่าทำไมต้องค้นหา?อุตสาหกรรมข่าวและโฆษณาย่อมกลัวเพราะคุณสามารถรับข่าวสารล่าสุดได้เพียงแค่ถามเทพเจ้าทำไมคุณต้องอ่านหนังสือพิมพ์ เพื่ออะไร?

และแม้ว่าสถานการณ์เหล่านี้จะเกิดขึ้น แต่ก็ยังไม่สามารถเข้าใจสถานการณ์โดยรวมได้อย่างแท้จริง เมื่อเราพูดถึงการสิ้นสุดที่เป็นไปได้ของประวัติศาสตร์มนุษย์ เราไม่ได้พูดถึงการสิ้นสุดของประวัติศาสตร์ แต่เป็นการสิ้นสุดของส่วนหนึ่งของประวัติศาสตร์ที่ครอบงำโดยมนุษย์ ประวัติศาสตร์เป็นผลมาจากการทำงานร่วมกันของชีววิทยาและวัฒนธรรม ความต้องการและความปรารถนาทางชีวภาพของเรา (เช่น อาหารและเพศ) และการสร้างสรรค์ทางวัฒนธรรม (เช่น ศาสนาและกฎหมาย) ประวัติศาสตร์เป็นกระบวนการที่ค่อยเป็นค่อยไปซึ่งกฎหมายและศาสนามีอิทธิพลต่ออาหารและเพศ

เกิดอะไรขึ้นกับประวัติศาสตร์เมื่อ AI เข้าครอบงำวัฒนธรรมและเริ่มสร้างเรื่องราว ท่วงทำนอง กฎหมาย และศาสนา ก่อนหน้านี้ เครื่องมือต่างๆ เช่น แท่นพิมพ์และวิทยุอำนวยความสะดวกในการแพร่กระจายความคิดทางวัฒนธรรมของมนุษย์ แต่พวกมันไม่เคยสร้างขึ้นเอง แนวคิดทางวัฒนธรรมใหม่ AI แตกต่างจากพวกเขาโดยพื้นฐาน **AI สามารถสร้างแนวคิดใหม่ วัฒนธรรมใหม่ **

ในตอนแรก AI ที่เพิ่งเริ่มต้นอาจเลียนแบบมนุษย์ที่ฝึกฝนมัน แต่เมื่อเวลาผ่านไป วัฒนธรรม AI จะก้าวไปสู่ที่ที่มนุษย์ไม่เคยไปมาก่อน เป็นเวลานับพันปีที่มนุษย์อาศัยอยู่ในความฝันของมนุษย์คนอื่นๆ **ในอีกไม่กี่ทศวรรษข้างหน้า เราอาจพบว่าตัวเองกำลังใช้ชีวิตในฝันของสายลับอัจฉริยะที่ไม่ใช่มนุษย์ **

ความกลัวของ AI ได้รบกวนมนุษยชาติในช่วงไม่กี่ทศวรรษที่ผ่านมา แต่ความกลัวที่ลึกกว่านั้นได้หลอกหลอนมนุษยชาติมานานนับพันปี เราเข้าใจมาตลอดถึงพลังของเรื่องราวและรูปภาพในการบงการจิตใจและสร้างภาพลวงตา ดังนั้นมนุษย์จึงกลัวการติดอยู่ในโลกแห่งมายาตั้งแต่สมัยโบราณ

ในศตวรรษที่ 17 เดส์การตส์กังวลว่าเขาอาจติดอยู่ในโลกแห่งภาพลวงตาโดยปีศาจ และทุกสิ่งที่เขาเห็นและได้ยินล้วนถูกกำหนดโดยปีศาจตนนี้ เพลโตในสมัยกรีกโบราณเล่านิทานเปรียบเทียบที่มีชื่อเสียงเกี่ยวกับถ้ำ: คนกลุ่มหนึ่งถูกล่ามไว้ในถ้ำมาชั่วชีวิต และมีเพียงผนังถ้ำที่ว่างเปล่าเหมือนฉากกั้นด้านหน้าพวกเขา นักโทษสามารถเห็นเงาต่างๆ ทอดลงบนผนังถ้ำโดยโลกภายนอกถ้ำ ดังนั้นพวกเขาจึงถือว่าภาพลวงตาเหล่านี้เป็นจริง

ในอินเดียโบราณ ปราชญ์ชาวพุทธและฮินดูชี้ให้เห็นว่ามนุษย์อาศัยอยู่ในโลกมายา สิ่งที่เรามักจะรับรู้ว่าเป็นความจริงมักเป็นเพียงภาพลวงตาในจิตใจของเราเอง มนุษย์อาจทำสงคราม ฆ่าผู้อื่น และเต็มใจถูกฆ่าเพราะพวกเขาเชื่อในนิมิตหรืออีกนัยหนึ่ง

**AI Revolution นำ Demon ของ Descartes, Plato's Cave และ Maya มาให้เราโดยตรง **หากเราไม่ระวัง เราอาจติดอยู่ในม่านแห่งมายา ไม่สามารถแยกออกจากกันหรือแม้แต่ตระหนักว่ามันอยู่ที่นั่น

แน่นอนว่าพลังใหม่ของ AI อาจนำไปใช้ประโยชน์ได้เช่นกัน ฉันจะไม่ลงรายละเอียดมากเกินไปเกี่ยวกับเรื่องนี้ เพราะคนที่พัฒนา AI พูดมามากพอแล้ว งานของนักประวัติศาสตร์และนักปรัชญาอย่างผมคือการชี้ให้เห็นว่า AI นั้นอันตรายตรงไหน แต่ไม่ต้องสงสัยเลยว่า AI สามารถช่วยมนุษย์ได้หลายวิธีนับไม่ถ้วน ตั้งแต่การค้นหาวิธีรักษาใหม่ๆ เพื่อเอาชนะมะเร็ง ไปจนถึงการค้นพบวิธีแก้ปัญหาวิกฤตการณ์ทางระบบนิเวศน์ และอื่นๆ อีกมากมาย คำถามก่อนหน้าเราคือจะแน่ใจได้อย่างไรว่าเครื่องมือ AI ใหม่ถูกนำมาใช้ในทางที่ดีมากกว่าความชั่ว ในการทำเช่นนี้ ก่อนอื่นเราต้องรู้จักความสามารถที่แท้จริงของเครื่องมือเหล่านี้

เรารู้มาตั้งแต่ปี 2488 ว่าเทคโนโลยีนิวเคลียร์สามารถสร้างพลังงานราคาถูกเพื่อประโยชน์ของมนุษยชาติ แต่ก็สามารถทำลายอารยธรรมของมนุษย์ทางร่างกายได้เช่นกัน ดังนั้นเราจึงปรับเปลี่ยนระเบียบระหว่างประเทศทั้งหมดเพื่อปกป้องมนุษยชาติและรับประกันว่าเทคโนโลยีนิวเคลียร์จะถูกใช้เพื่อผลประโยชน์ของมนุษยชาติเป็นหลัก ** ตอนนี้เราต้องจัดการกับ WMD ประเภทใหม่ที่สามารถทำลายโลกฝ่ายวิญญาณและสังคมของเราได้ **

เรายังสามารถจัดการเครื่องมือ AI ใหม่ได้ แต่เราต้องดำเนินการอย่างรวดเร็ว **อาวุธนิวเคลียร์ไม่สามารถประดิษฐ์อาวุธนิวเคลียร์ที่ทรงพลังกว่านี้ได้ แต่ AI สามารถสร้าง AI ที่ทรงพลังกว่าแบบทวีคูณ **

**ขั้นตอนสำคัญประการแรกคือการกำหนดให้เครื่องมือ AI อันทรงพลังได้รับการตรวจสอบความปลอดภัยอย่างเข้มงวดก่อนที่จะเผยแพร่สู่สาธารณสมบัติ ** เช่นเดียวกับที่บริษัทยาไม่สามารถออกยาใหม่ได้หากไม่มีการทดสอบผลข้างเคียงในระยะสั้นและระยะยาว บริษัทเทคโนโลยีจึงไม่ควรออกเครื่องมือ AI ใหม่ก่อนที่จะรับรองความปลอดภัย เราต้องการหน่วยงานต่างๆ เช่น สำนักงานคณะกรรมการอาหารและยาของสหรัฐอเมริกา (FDA) เพื่อควบคุมเทคโนโลยีใหม่ๆ สิ่งเหล่านี้ควรทำมานานแล้ว

การชะลอการนำ AI ไปใช้ในพื้นที่สาธารณะจะทำให้ระบอบประชาธิปไตยล้าหลังระบอบเผด็จการที่บ้าบิ่นมากขึ้นหรือไม่ ค่อนข้างตรงกันข้าม การใช้งาน AI ที่ไม่ได้รับการควบคุมจะสร้างความสับสนวุ่นวายในสังคมซึ่งเอื้อประโยชน์ให้เผด็จการบ่อนทำลายประชาธิปไตย **ประชาธิปไตยคือบทสนทนา และบทสนทนาขึ้นอยู่กับภาษา เมื่อ AI ถอดรหัสภาษา อาจบั่นทอนความสามารถของเราในการสนทนาที่มีความหมาย และทำให้เป็นประชาธิปไตย **

เราเพิ่งพบหน่วยสืบราชการลับที่ไม่ใช่มนุษย์บนโลก และรู้เพียงเล็กน้อยเกี่ยวกับมัน ยกเว้นว่ามันอาจทำลายอารยธรรมของมนุษย์ เราควรหยุดการปรับใช้เครื่องมือ AI อย่างไม่รับผิดชอบในสาธารณสมบัติ และควบคุม AI ก่อนที่มันจะควบคุมเรา และ **ข้อเสนอด้านกฎระเบียบข้อแรกของฉันคือการกำหนดให้ AI ต้องเปิดเผยว่าเป็น AI ถ้าฉันบอกไม่ได้ว่ากำลังคุยกับมนุษย์หรือ AI นั่นคือจุดจบของประชาธิปไตย **