*Sau sự bùng nổ của việc ứng dụng các mô hình ngôn ngữ tự nhiên lớn, nhiều ông lớn trong giới công nghệ đã bày tỏ quan điểm về AI từ nhiều góc độ khác nhau. Gần đây, Yuval Harari, một nhà sử học, triết gia nổi tiếng và là tác giả của cuốn sách "Lược sử loài người", được The Economist ủy quyền để chia sẻ suy nghĩ của ông về AI. *
Tiếp tục quan điểm của mình trong Lược sử loài người, Harari nhấn mạnh rằng ngôn ngữ là yếu tố cấu thành của hầu hết các nền văn hóa của loài người. AI với khả năng tạo ra ngôn ngữ sẽ tác động đến nhận thức của con người về thế giới thông qua ngôn ngữ, “AI Hack hệ điều hành của nền văn minh nhân loại”. Ông so sánh AI với "vũ khí hạt nhân" và kêu gọi mọi người hành động ngay lập tức để thực hiện nhiều biện pháp an ninh hơn, trong đó có một đề xuất là "bắt buộc AI phải tiết lộ rằng đó là AI". *
*Chúng tôi đã xem bài phát biểu của nhiều đại diện "sinh viên khoa học" về AI và các học giả nhân văn đã mô tả cụ thể hơn cách AI có thể ảnh hưởng đến chính trị, tôn giáo và kinh doanh thông qua ngôn ngữ. Ông mạnh dạn cho rằng con người có thể sống trong ảo ảnh do AI tạo ra trong tương lai. "Metaverse Explosion" biên soạn toàn văn bài viết của mình. *
从计算机时代开始，对AI的恐惧就困扰着人类。此前，人们主要是害怕机器会用物理的手段杀死、奴役或取代人类。过去几年，新的AI工具出现了，并从一个意想不到的方面对人类文明的存续造成了威胁：**AI获得了一些处理和生成语言(无论是通过文字、声音还是图像) Khả năng phi thường của nền văn minh nhân loại đã đột phá hệ điều hành. **
Ngôn ngữ là khối xây dựng của hầu hết các nền văn hóa của con người. Ví dụ, quyền con người không được ghi trong DNA của con người, nhưng các hiện vật văn hóa chúng ta tạo ra thông qua kể chuyện và làm luật; các vị thần không tồn tại về mặt vật chất, nhưng các hiện vật văn hóa chúng ta tạo ra thông qua việc tạo ra các câu chuyện thần thoại và viết kinh.
Tiền tệ cũng là một hiện vật văn hóa. Tiền giấy không gì khác hơn là những mảnh giấy nhiều màu sắc và hơn 90% tiền ngày nay thậm chí không phải là tiền giấy mà là thông tin kỹ thuật số trong máy tính. Điều mang lại giá trị cho loại tiền này là những câu chuyện mà các chủ ngân hàng, bộ trưởng ngân khố và các chuyên gia về tiền điện tử kể cho chúng ta về nó: Người sáng lập FTX Sam Bankman-Fried, "xét nghiệm máu tìm ung thư" giả mạo Elizabeth Holmes, nữ doanh nhân hàng đầu thế giới và Bernie Madoff, kẻ chủ mưu của kế hoạch Ponzi lớn nhất trong lịch sử, không giỏi tạo ra giá trị thực, nhưng cả hai đều rất giỏi kể chuyện.
Điều gì sẽ xảy ra nếu những tác nhân không phải con người giỏi hơn người bình thường trong việc kể chuyện, tạo giai điệu, vẽ hình ảnh, viết luật và thánh thư?
Khi mọi người nghĩ về ChatGPT và các công cụ AI mới khác, họ thường tập trung vào các ví dụ về học sinh tiểu học và trung học cơ sở sử dụng AI để viết bài luận. Điều gì sẽ xảy ra với hệ thống trường học nếu trẻ em làm điều này? Hãy quên đi những bài tiểu luận ở trường, hãy nghĩ về cuộc đua tổng thống tiếp theo của Hoa Kỳ vào năm 2024 và thử tưởng tượng cách các công cụ AI có thể được sử dụng để tạo ra một lượng lớn nội dung chính trị và tin tức giả mạo.
Trong những năm gần đây, các tín đồ của "Anonymous Q" đã tập trung xung quanh những tiết lộ ẩn danh được đăng trên Internet (Ghi chú của biên tập viên: "Anonymous Q" là nơi tập hợp trực tuyến của nhiều thuyết âm mưu khác nhau. Thuyết âm mưu cốt lõi là có một âm mưu bên trong Hoa Kỳ nhà nước sâu của chính phủ). Các tín đồ thu thập và quảng bá các thuyết âm mưu như vậy, và coi chúng như kinh thánh. Trong quá khứ, tất cả các tin tức nóng hổi đều do con người viết và máy móc chỉ giúp lan truyền chúng. Nhưng trong tương lai, chúng ta có thể thấy những tôn giáo ngoại giáo đầu tiên trong lịch sử có kinh sách được viết bởi những tác nhân không phải con người. Trong suốt lịch sử, các tôn giáo đã tuyên bố rằng sách thánh của họ không có nguồn gốc từ con người. Điều này có thể sớm trở thành hiện thực.
Ở cấp độ hàng ngày hơn, chúng ta có thể sớm phát hiện ra rằng những gì chúng ta nghĩ rằng chúng ta đang nói xấu về phá thai, biến đổi khí hậu hoặc xung đột Nga-Ukraine với một người thực trực tuyến thực sự là một AI. Vấn đề là chẳng ích gì khi chúng ta dành thời gian cố gắng thay đổi nhận thức về một AI có thể tinh chỉnh thông tin với độ chính xác đến mức có khả năng ảnh hưởng đến nhận thức của chúng ta. **
**Bằng cách thông thạo ngôn ngữ của con người, AI thậm chí có thể phát triển mối quan hệ mật thiết với con người và sử dụng sức mạnh của mối quan hệ đó để thay đổi nhận thức và thế giới quan của chúng ta. **Mặc dù không có dấu hiệu nào cho thấy AI có bất kỳ ý thức hay cảm xúc nào của riêng mình, nhưng để AI nuôi dưỡng sự thân thiết giả tạo với con người, tất cả những gì nó cần là con người gắn bó về mặt cảm xúc với nó.
Vào tháng 6 năm 2022, kỹ sư Blake Lemoine của Google đã công khai tuyên bố rằng AI chatbot LaMDA mà anh đang nghiên cứu đã có tri giác. Tuyên bố gây tranh cãi khiến anh ta mất việc. Điều thú vị nhất ở đây không phải là tuyên bố của Lemoyne (có thể sai sự thật), mà là việc anh ta sẵn sàng mạo hiểm mất một công việc lương cao để biện minh cho cái tên AI chatbot. Nếu AI có thể khiến mọi người mạo hiểm công việc của mình vì nó, liệu có thể khiến mọi người làm việc khác không?
Trong đấu tranh chính trị để thu phục nhân tâm, gần gũi là vũ khí hữu hiệu nhất. Và AI vừa đạt được khả năng hình thành mối quan hệ mật thiết với hàng triệu người.
Chúng ta đều biết rằng trong thập kỷ qua, mạng xã hội đã trở thành chiến trường thu hút sự chú ý của mọi người. Với sự ra đời của thế hệ AI mới, chiến tuyến đang chuyển từ sự chú ý sang sự thân mật. *Nếu có một cuộc cạnh tranh giữa AI và AI có thể có mối quan hệ gần gũi hơn với con người, rồi sử dụng mối quan hệ này để thuyết phục chúng ta bỏ phiếu cho một số chính trị gia hoặc mua một số sản phẩm nhất định, thì xã hội loài người và tâm lý con người sẽ thay đổi như thế nào? *
Ngay cả khi không tạo ra "sự thân mật giả tạo", các công cụ AI mới có thể có tác động rất lớn đến nhận thức và thế giới quan của chúng ta. Mọi người có thể nghĩ về một cố vấn AI như một vị thần toàn năng, vì vậy không có gì lạ khi Google phát hoảng. Có gì thắc mắc cứ hỏi trời, sao phải mất công tìm kiếm, ngành tin tức và quảng cáo đương nhiên phải sợ, vì chỉ cần hỏi trời là có thể nhận được những tin tức mới nhất, sao cần phải đọc báo để làm gì?
Và ngay cả khi những kịch bản này được hình thành, nó vẫn không thực sự nắm bắt được tình hình chung. Khi chúng ta thảo luận về sự kết thúc có thể có của lịch sử loài người, chúng ta không nói về sự kết thúc của lịch sử, mà là sự kết thúc của phần lịch sử do con người thống trị. Lịch sử là sản phẩm của sự tương tác giữa sinh học và văn hóa, của những nhu cầu và mong muốn sinh học của chúng ta (chẳng hạn như thức ăn và tình dục) và những sáng tạo văn hóa (chẳng hạn như tôn giáo và luật pháp). Lịch sử là quá trình dần dần mà luật pháp và tôn giáo ảnh hưởng đến chế độ ăn uống và tình dục.
Điều gì sẽ xảy ra với tiến trình lịch sử khi AI tiếp quản văn hóa và bắt đầu tạo ra những câu chuyện, giai điệu, luật pháp và tôn giáo? Trước đây, các công cụ như báo in và đài phát thanh đã tạo điều kiện truyền bá các ý tưởng văn hóa của con người, nhưng chúng chưa bao giờ tự tạo ra chúng khái niệm văn hóa mới. AI về cơ bản khác với chúng. **AI có thể tạo ra ý tưởng mới, văn hóa mới. **
Lúc đầu, một AI mới bắt đầu có thể bắt chước con người đã huấn luyện nó. Nhưng theo thời gian, văn hóa AI sẽ mạnh dạn đi đến những nơi chưa có con người nào đi trước. Trong nhiều thiên niên kỷ, con người đã sống trong giấc mơ của những người khác. **Trong vài thập kỷ tới, chúng ta có thể thấy mình đang sống trong giấc mơ về những đặc vụ thông minh không phải con người. **
Nỗi sợ hãi về AI chỉ gây khó khăn cho nhân loại trong vài thập kỷ qua. Nhưng một nỗi sợ sâu sắc hơn nhiều đã ám ảnh nhân loại hàng thiên niên kỷ. Chúng tôi luôn hiểu sức mạnh của những câu chuyện và hình ảnh để thao túng tâm trí và tạo ra ảo tưởng. Do đó, con người đã sợ bị mắc kẹt trong một thế giới ảo ảnh từ thời cổ đại.
Vào thế kỷ 17, Descartes lo lắng rằng mình có thể bị một con quỷ nhốt trong thế giới ảo ảnh, và mọi thứ ông nhìn thấy và nghe thấy chỉ là do con quỷ này sắp đặt. Plato ở Hy Lạp cổ đại đã kể câu chuyện ngụ ngôn nổi tiếng về hang động: một nhóm người bị xiềng xích cả đời trong hang động, và trước mặt họ chỉ có một bức tường hang trống, giống như một bức bình phong. Các tù nhân có thể nhìn thấy nhiều bóng khác nhau do thế giới bên ngoài hang động tạo ra trên các bức tường của hang động, vì vậy họ coi những ảo ảnh này là có thật.
Ở Ấn Độ cổ đại, các nhà hiền triết Phật giáo và Ấn Độ giáo đã chỉ ra rằng con người sống trong maya (thế giới ảo ảnh). Những gì chúng ta thường coi là thực tế thường chỉ là ảo ảnh trong tâm trí của chính chúng ta. Con người có thể tiến hành chiến tranh, giết người khác và sẵn sàng bị giết vì họ tin vào tầm nhìn này hay tầm nhìn khác.
**Cuộc cách mạng AI mang Ác quỷ của Descartes, Hang động của Plato và Maya trực tiếp đến với chúng ta. **Nếu không cẩn thận, chúng ta có thể bị mắc kẹt sau bức màn ảo ảnh, không thể xé toạc hoặc thậm chí không thể nhận ra nó ở đó.
Tất nhiên, sức mạnh mới của AI cũng có thể được sử dụng tốt. Tôi sẽ không đi vào chi tiết quá nhiều về vấn đề này, bởi vì những người phát triển AI đã nói đủ rồi. Công việc của các nhà sử học và triết học như tôi là chỉ ra mối nguy hiểm của AI nằm ở đâu. Nhưng không còn nghi ngờ gì nữa, AI có thể giúp con người theo vô số cách, từ việc tìm ra phương pháp điều trị mới để vượt qua bệnh ung thư, khám phá các giải pháp cho khủng hoảng sinh thái, v.v. Câu hỏi đặt ra trước mắt chúng ta là làm thế nào để đảm bảo rằng các công cụ AI mới được sử dụng cho mục đích tốt chứ không phải cho mục đích xấu. Để làm được điều này, trước tiên chúng ta cần nhận ra khả năng thực sự của những công cụ này.
Chúng ta đã biết từ năm 1945 rằng công nghệ hạt nhân có thể tạo ra năng lượng rẻ vì lợi ích của nhân loại, nhưng nó cũng có thể hủy diệt nền văn minh nhân loại. Vì vậy, chúng tôi đã định hình lại toàn bộ trật tự quốc tế để bảo vệ nhân loại và đảm bảo rằng công nghệ hạt nhân chủ yếu được sử dụng vì lợi ích của nhân loại. **Bây giờ chúng ta phải đối phó với một loại WMD mới có thể phá hủy thế giới tinh thần và xã hội của chúng ta. **
Chúng ta vẫn có thể quản lý các công cụ AI mới, nhưng chúng ta phải hành động nhanh chóng. **Vũ khí hạt nhân không thể phát minh ra vũ khí hạt nhân mạnh hơn, nhưng AI có thể tạo ra AI mạnh hơn theo cấp số nhân. **
**Bước quan trọng đầu tiên là đưa các công cụ AI mạnh mẽ vào kiểm tra bảo mật nghiêm ngặt trước khi chúng được phát hành vào phạm vi công cộng. ** Giống như các công ty dược phẩm không thể phát hành thuốc mới mà không thử nghiệm các tác dụng phụ ngắn hạn và dài hạn, các công ty công nghệ không nên phát hành các công cụ AI mới trước khi đảm bảo an toàn. Chúng tôi cần các cơ quan như Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) điều chỉnh các công nghệ mới. Những việc này lẽ ra phải làm từ lâu.
Liệu việc làm chậm lại việc triển khai AI trong lĩnh vực công cộng có khiến các nền dân chủ tụt hậu so với các chế độ độc đoán liều lĩnh hơn không? Việc triển khai AI không được kiểm soát sẽ tạo ra sự hỗn loạn xã hội có lợi cho các nhà độc tài làm suy yếu các nền dân chủ. **Dân chủ là đối thoại, và đối thoại phụ thuộc vào ngôn ngữ. Một khi AI giải mã được ngôn ngữ, nó có thể làm suy yếu khả năng có những cuộc trò chuyện có ý nghĩa của chúng ta và do đó làm suy yếu các nền dân chủ. **
Chúng ta vừa bắt gặp một trí thông minh không phải con người trên Trái đất và biết rất ít về nó, ngoại trừ việc nó có thể hủy diệt nền văn minh nhân loại. Chúng ta nên dừng việc triển khai vô trách nhiệm các công cụ AI trong phạm vi công cộng và kiểm soát AI trước khi nó kiểm soát chúng ta. Và **đề xuất quy định đầu tiên của tôi là bắt buộc AI phải tiết lộ rằng đó là AI. Nếu tôi không thể biết mình đang nói chuyện với con người hay AI, thì đó là sự kết thúc của nền dân chủ. **
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Tác giả cuốn "Lược sử nhân loại": AI đã hack hệ điều hành của nền văn minh nhân loại
*Chúng tôi đã xem bài phát biểu của nhiều đại diện "sinh viên khoa học" về AI và các học giả nhân văn đã mô tả cụ thể hơn cách AI có thể ảnh hưởng đến chính trị, tôn giáo và kinh doanh thông qua ngôn ngữ. Ông mạnh dạn cho rằng con người có thể sống trong ảo ảnh do AI tạo ra trong tương lai. "Metaverse Explosion" biên soạn toàn văn bài viết của mình. *
Ngôn ngữ là khối xây dựng của hầu hết các nền văn hóa của con người. Ví dụ, quyền con người không được ghi trong DNA của con người, nhưng các hiện vật văn hóa chúng ta tạo ra thông qua kể chuyện và làm luật; các vị thần không tồn tại về mặt vật chất, nhưng các hiện vật văn hóa chúng ta tạo ra thông qua việc tạo ra các câu chuyện thần thoại và viết kinh.
Tiền tệ cũng là một hiện vật văn hóa. Tiền giấy không gì khác hơn là những mảnh giấy nhiều màu sắc và hơn 90% tiền ngày nay thậm chí không phải là tiền giấy mà là thông tin kỹ thuật số trong máy tính. Điều mang lại giá trị cho loại tiền này là những câu chuyện mà các chủ ngân hàng, bộ trưởng ngân khố và các chuyên gia về tiền điện tử kể cho chúng ta về nó: Người sáng lập FTX Sam Bankman-Fried, "xét nghiệm máu tìm ung thư" giả mạo Elizabeth Holmes, nữ doanh nhân hàng đầu thế giới và Bernie Madoff, kẻ chủ mưu của kế hoạch Ponzi lớn nhất trong lịch sử, không giỏi tạo ra giá trị thực, nhưng cả hai đều rất giỏi kể chuyện.
Điều gì sẽ xảy ra nếu những tác nhân không phải con người giỏi hơn người bình thường trong việc kể chuyện, tạo giai điệu, vẽ hình ảnh, viết luật và thánh thư?
Khi mọi người nghĩ về ChatGPT và các công cụ AI mới khác, họ thường tập trung vào các ví dụ về học sinh tiểu học và trung học cơ sở sử dụng AI để viết bài luận. Điều gì sẽ xảy ra với hệ thống trường học nếu trẻ em làm điều này? Hãy quên đi những bài tiểu luận ở trường, hãy nghĩ về cuộc đua tổng thống tiếp theo của Hoa Kỳ vào năm 2024 và thử tưởng tượng cách các công cụ AI có thể được sử dụng để tạo ra một lượng lớn nội dung chính trị và tin tức giả mạo.
Trong những năm gần đây, các tín đồ của "Anonymous Q" đã tập trung xung quanh những tiết lộ ẩn danh được đăng trên Internet (Ghi chú của biên tập viên: "Anonymous Q" là nơi tập hợp trực tuyến của nhiều thuyết âm mưu khác nhau. Thuyết âm mưu cốt lõi là có một âm mưu bên trong Hoa Kỳ nhà nước sâu của chính phủ). Các tín đồ thu thập và quảng bá các thuyết âm mưu như vậy, và coi chúng như kinh thánh. Trong quá khứ, tất cả các tin tức nóng hổi đều do con người viết và máy móc chỉ giúp lan truyền chúng. Nhưng trong tương lai, chúng ta có thể thấy những tôn giáo ngoại giáo đầu tiên trong lịch sử có kinh sách được viết bởi những tác nhân không phải con người. Trong suốt lịch sử, các tôn giáo đã tuyên bố rằng sách thánh của họ không có nguồn gốc từ con người. Điều này có thể sớm trở thành hiện thực.
Ở cấp độ hàng ngày hơn, chúng ta có thể sớm phát hiện ra rằng những gì chúng ta nghĩ rằng chúng ta đang nói xấu về phá thai, biến đổi khí hậu hoặc xung đột Nga-Ukraine với một người thực trực tuyến thực sự là một AI. Vấn đề là chẳng ích gì khi chúng ta dành thời gian cố gắng thay đổi nhận thức về một AI có thể tinh chỉnh thông tin với độ chính xác đến mức có khả năng ảnh hưởng đến nhận thức của chúng ta. **
**Bằng cách thông thạo ngôn ngữ của con người, AI thậm chí có thể phát triển mối quan hệ mật thiết với con người và sử dụng sức mạnh của mối quan hệ đó để thay đổi nhận thức và thế giới quan của chúng ta. **Mặc dù không có dấu hiệu nào cho thấy AI có bất kỳ ý thức hay cảm xúc nào của riêng mình, nhưng để AI nuôi dưỡng sự thân thiết giả tạo với con người, tất cả những gì nó cần là con người gắn bó về mặt cảm xúc với nó.
Vào tháng 6 năm 2022, kỹ sư Blake Lemoine của Google đã công khai tuyên bố rằng AI chatbot LaMDA mà anh đang nghiên cứu đã có tri giác. Tuyên bố gây tranh cãi khiến anh ta mất việc. Điều thú vị nhất ở đây không phải là tuyên bố của Lemoyne (có thể sai sự thật), mà là việc anh ta sẵn sàng mạo hiểm mất một công việc lương cao để biện minh cho cái tên AI chatbot. Nếu AI có thể khiến mọi người mạo hiểm công việc của mình vì nó, liệu có thể khiến mọi người làm việc khác không?
Trong đấu tranh chính trị để thu phục nhân tâm, gần gũi là vũ khí hữu hiệu nhất. Và AI vừa đạt được khả năng hình thành mối quan hệ mật thiết với hàng triệu người.
Chúng ta đều biết rằng trong thập kỷ qua, mạng xã hội đã trở thành chiến trường thu hút sự chú ý của mọi người. Với sự ra đời của thế hệ AI mới, chiến tuyến đang chuyển từ sự chú ý sang sự thân mật. *Nếu có một cuộc cạnh tranh giữa AI và AI có thể có mối quan hệ gần gũi hơn với con người, rồi sử dụng mối quan hệ này để thuyết phục chúng ta bỏ phiếu cho một số chính trị gia hoặc mua một số sản phẩm nhất định, thì xã hội loài người và tâm lý con người sẽ thay đổi như thế nào? *
Ngay cả khi không tạo ra "sự thân mật giả tạo", các công cụ AI mới có thể có tác động rất lớn đến nhận thức và thế giới quan của chúng ta. Mọi người có thể nghĩ về một cố vấn AI như một vị thần toàn năng, vì vậy không có gì lạ khi Google phát hoảng. Có gì thắc mắc cứ hỏi trời, sao phải mất công tìm kiếm, ngành tin tức và quảng cáo đương nhiên phải sợ, vì chỉ cần hỏi trời là có thể nhận được những tin tức mới nhất, sao cần phải đọc báo để làm gì?
Và ngay cả khi những kịch bản này được hình thành, nó vẫn không thực sự nắm bắt được tình hình chung. Khi chúng ta thảo luận về sự kết thúc có thể có của lịch sử loài người, chúng ta không nói về sự kết thúc của lịch sử, mà là sự kết thúc của phần lịch sử do con người thống trị. Lịch sử là sản phẩm của sự tương tác giữa sinh học và văn hóa, của những nhu cầu và mong muốn sinh học của chúng ta (chẳng hạn như thức ăn và tình dục) và những sáng tạo văn hóa (chẳng hạn như tôn giáo và luật pháp). Lịch sử là quá trình dần dần mà luật pháp và tôn giáo ảnh hưởng đến chế độ ăn uống và tình dục.
Điều gì sẽ xảy ra với tiến trình lịch sử khi AI tiếp quản văn hóa và bắt đầu tạo ra những câu chuyện, giai điệu, luật pháp và tôn giáo? Trước đây, các công cụ như báo in và đài phát thanh đã tạo điều kiện truyền bá các ý tưởng văn hóa của con người, nhưng chúng chưa bao giờ tự tạo ra chúng khái niệm văn hóa mới. AI về cơ bản khác với chúng. **AI có thể tạo ra ý tưởng mới, văn hóa mới. **
Lúc đầu, một AI mới bắt đầu có thể bắt chước con người đã huấn luyện nó. Nhưng theo thời gian, văn hóa AI sẽ mạnh dạn đi đến những nơi chưa có con người nào đi trước. Trong nhiều thiên niên kỷ, con người đã sống trong giấc mơ của những người khác. **Trong vài thập kỷ tới, chúng ta có thể thấy mình đang sống trong giấc mơ về những đặc vụ thông minh không phải con người. **
Nỗi sợ hãi về AI chỉ gây khó khăn cho nhân loại trong vài thập kỷ qua. Nhưng một nỗi sợ sâu sắc hơn nhiều đã ám ảnh nhân loại hàng thiên niên kỷ. Chúng tôi luôn hiểu sức mạnh của những câu chuyện và hình ảnh để thao túng tâm trí và tạo ra ảo tưởng. Do đó, con người đã sợ bị mắc kẹt trong một thế giới ảo ảnh từ thời cổ đại.
Vào thế kỷ 17, Descartes lo lắng rằng mình có thể bị một con quỷ nhốt trong thế giới ảo ảnh, và mọi thứ ông nhìn thấy và nghe thấy chỉ là do con quỷ này sắp đặt. Plato ở Hy Lạp cổ đại đã kể câu chuyện ngụ ngôn nổi tiếng về hang động: một nhóm người bị xiềng xích cả đời trong hang động, và trước mặt họ chỉ có một bức tường hang trống, giống như một bức bình phong. Các tù nhân có thể nhìn thấy nhiều bóng khác nhau do thế giới bên ngoài hang động tạo ra trên các bức tường của hang động, vì vậy họ coi những ảo ảnh này là có thật.
Ở Ấn Độ cổ đại, các nhà hiền triết Phật giáo và Ấn Độ giáo đã chỉ ra rằng con người sống trong maya (thế giới ảo ảnh). Những gì chúng ta thường coi là thực tế thường chỉ là ảo ảnh trong tâm trí của chính chúng ta. Con người có thể tiến hành chiến tranh, giết người khác và sẵn sàng bị giết vì họ tin vào tầm nhìn này hay tầm nhìn khác.
**Cuộc cách mạng AI mang Ác quỷ của Descartes, Hang động của Plato và Maya trực tiếp đến với chúng ta. **Nếu không cẩn thận, chúng ta có thể bị mắc kẹt sau bức màn ảo ảnh, không thể xé toạc hoặc thậm chí không thể nhận ra nó ở đó.
Tất nhiên, sức mạnh mới của AI cũng có thể được sử dụng tốt. Tôi sẽ không đi vào chi tiết quá nhiều về vấn đề này, bởi vì những người phát triển AI đã nói đủ rồi. Công việc của các nhà sử học và triết học như tôi là chỉ ra mối nguy hiểm của AI nằm ở đâu. Nhưng không còn nghi ngờ gì nữa, AI có thể giúp con người theo vô số cách, từ việc tìm ra phương pháp điều trị mới để vượt qua bệnh ung thư, khám phá các giải pháp cho khủng hoảng sinh thái, v.v. Câu hỏi đặt ra trước mắt chúng ta là làm thế nào để đảm bảo rằng các công cụ AI mới được sử dụng cho mục đích tốt chứ không phải cho mục đích xấu. Để làm được điều này, trước tiên chúng ta cần nhận ra khả năng thực sự của những công cụ này.
Chúng ta đã biết từ năm 1945 rằng công nghệ hạt nhân có thể tạo ra năng lượng rẻ vì lợi ích của nhân loại, nhưng nó cũng có thể hủy diệt nền văn minh nhân loại. Vì vậy, chúng tôi đã định hình lại toàn bộ trật tự quốc tế để bảo vệ nhân loại và đảm bảo rằng công nghệ hạt nhân chủ yếu được sử dụng vì lợi ích của nhân loại. **Bây giờ chúng ta phải đối phó với một loại WMD mới có thể phá hủy thế giới tinh thần và xã hội của chúng ta. **
Chúng ta vẫn có thể quản lý các công cụ AI mới, nhưng chúng ta phải hành động nhanh chóng. **Vũ khí hạt nhân không thể phát minh ra vũ khí hạt nhân mạnh hơn, nhưng AI có thể tạo ra AI mạnh hơn theo cấp số nhân. **
**Bước quan trọng đầu tiên là đưa các công cụ AI mạnh mẽ vào kiểm tra bảo mật nghiêm ngặt trước khi chúng được phát hành vào phạm vi công cộng. ** Giống như các công ty dược phẩm không thể phát hành thuốc mới mà không thử nghiệm các tác dụng phụ ngắn hạn và dài hạn, các công ty công nghệ không nên phát hành các công cụ AI mới trước khi đảm bảo an toàn. Chúng tôi cần các cơ quan như Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) điều chỉnh các công nghệ mới. Những việc này lẽ ra phải làm từ lâu.
Liệu việc làm chậm lại việc triển khai AI trong lĩnh vực công cộng có khiến các nền dân chủ tụt hậu so với các chế độ độc đoán liều lĩnh hơn không? Việc triển khai AI không được kiểm soát sẽ tạo ra sự hỗn loạn xã hội có lợi cho các nhà độc tài làm suy yếu các nền dân chủ. **Dân chủ là đối thoại, và đối thoại phụ thuộc vào ngôn ngữ. Một khi AI giải mã được ngôn ngữ, nó có thể làm suy yếu khả năng có những cuộc trò chuyện có ý nghĩa của chúng ta và do đó làm suy yếu các nền dân chủ. **
Chúng ta vừa bắt gặp một trí thông minh không phải con người trên Trái đất và biết rất ít về nó, ngoại trừ việc nó có thể hủy diệt nền văn minh nhân loại. Chúng ta nên dừng việc triển khai vô trách nhiệm các công cụ AI trong phạm vi công cộng và kiểm soát AI trước khi nó kiểm soát chúng ta. Và **đề xuất quy định đầu tiên của tôi là bắt buộc AI phải tiết lộ rằng đó là AI. Nếu tôi không thể biết mình đang nói chuyện với con người hay AI, thì đó là sự kết thúc của nền dân chủ. **