Tương tác với các mô hình ngôn ngữ lớn (LLM), chúng ta luôn có cảm giác mơ hồ rằng chúng thực sự có thể có ý thức. Tuy nhiên, từ quan điểm của các nhà thần kinh học, quan điểm này dường như rất khó để giữ.
Trong một bài báo gần đây được công bố trên Trends in Neurosciences, một tạp chí phụ của Cell, ba học giả từ khoa học máy tính, sinh học và khoa học thần kinh đã đi sâu vào câu hỏi "Trí tuệ nhân tạo có thể tạo ra ý thức không?"
Tóm lại, họ đồng ý rằng LLM không thể có ý thức ở dạng hiện tại của chúng. Làm thế nào mà một quan điểm phân loại như vậy xảy ra?
▷Nguồn: Cell
LLM &; Ý thức
Từ lâu, người ta đã đặt câu hỏi động vật nào có ý thức và thực thể nào có ý thức ngoài động vật. Sự ra đời gần đây của LLM đã mang lại một viễn cảnh hoàn toàn mới cho vấn đề. Nó cho chúng ta thấy khả năng trò chuyện (một biểu hiện của ý thức con người) và khiến chúng ta xác định lại và suy nghĩ lại ba khái niệm "hiểu biết", "thông minh" và "ý thức".
LLM là các mạng thần kinh nhân tạo phức tạp, nhiều lớp với hàng tỷ trọng lượng kết nối được đào tạo trên hàng chục tỷ từ dữ liệu văn bản, bao gồm các cuộc trò chuyện bằng ngôn ngữ tự nhiên giữa con người. Bằng cách đặt câu hỏi thông qua văn bản, người dùng được đưa vào một bối cảnh mô phỏng hấp dẫn. Nếu bạn sẵn sàng dành thời gian để sử dụng các hệ thống này, thật khó để không bị thổi bay bởi độ sâu và chất lượng của mạng. Đặt cho nó một câu hỏi, và câu trả lời của nó thường tương tự một cách tinh tế với câu trả lời mà một cá nhân có ý thức có thể tạo ra. Do đó, là một cá nhân sâu sắc, có ý thức, thật dễ dàng để kết luận rằng các câu trả lời tôi nhận được được tạo ra bởi một cá nhân cũng "có ý thức" và có khả năng suy nghĩ, cảm nhận, lý luận và trải nghiệm. **
Dựa trên kết quả của các "thử nghiệm Turing" như vậy, chúng ta không thể không tự hỏi liệu LLM đã có ý thức hay chúng sẽ sớm có ý thức? Tuy nhiên, câu hỏi này, đến lượt nó, sẽ dẫn đến một loạt các tình huống khó xử về đạo đức, chẳng hạn như liệu có đạo đức khi tiếp tục phát triển LLM liên tục trên bờ vực thức tỉnh "ý thức" hay không? Ý tưởng cho rằng LLM là "có ý thức" không được chấp nhận rộng rãi trong cộng đồng khoa học thần kinh ngày nay, nhưng khi khả năng của các hệ thống AI tiếp tục được cải thiện, cuộc thảo luận về ý tưởng này chắc chắn đã trở lại nổi bật. Ngoài ra, các phương tiện truyền thông lớn cũng đang thảo luận rộng rãi về vấn đề này, khiến các nhà thần kinh học phải giải thích vấn đề một cách khách quan từ góc độ chuyên môn của chính họ.
Ý tưởng cho rằng LLM có khả năng có ý thức thường được hỗ trợ bởi một lập luận quan trọng rằng kiến trúc của LLM phần lớn được lấy cảm hứng từ các đặc điểm của bộ não (Hình 1) và bộ não là đối tượng duy nhất chúng ta có thể tự tin gán cho "ý thức" vào lúc này. Trong khi các mạng thần kinh nhân tạo ban đầu được thiết kế dựa trên các phiên bản đơn giản hóa của vỏ não, các LLM hiện đại được thiết kế và điều chỉnh cao cho các mục đích cụ thể và không còn giữ được sự tương đồng sâu sắc với các cấu trúc não đã biết. Trên thực tế, nhiều tính năng con đường làm cho LLM trở nên mạnh mẽ về mặt tính toán (Hình 1) có kiến trúc rất khác với các hệ thống mà chúng ta hiện đang nghĩ có sức mạnh nhân quả trong việc tạo ra và định hình ý thức ở động vật có vú. Ví dụ, nhiều lý thuyết khoa học thần kinh liên quan đến việc tạo ra ý thức cho thấy hệ thống vỏ não thalamic và hệ thống kích thích đóng vai trò trung tâm trong quá trình xử lý ý thức, không có sẵn trong các LLM hiện đại.
Hình 1: Sự khác biệt tôpô vĩ mô giữa não động vật có vú và các mô hình ngôn ngữ lớn Nguồn: Xu hướng trong khoa học thần kinh
Tại thời điểm này, người ta có thể hỏi, có quan trọng đến mức kiến trúc của LLM bắt chước các đặc điểm của bộ não không?
Theo chúng tôi, lý do chính là chúng ta chỉ có thể chắc chắn về sự tồn tại của một ý thức vào lúc này, xuất phát từ bộ não được nhúng trong cơ thể phức tạp. Người ta có thể lập luận rằng, nói một cách chính xác, lập luận này có thể được thu hẹp hơn nữa chỉ còn con người, mặc dù nhiều đặc điểm cấp hệ thống được cho là đóng vai trò quan trọng trong ý thức chủ quan là phổ biến trong toàn phổ sinh học, mở rộng đến cả động vật có vú, thậm chí cả động vật không xương sống.
Như đã nói, trước tiên hãy bắt đầu với ý nghĩa chính xác của "ý thức". Sau đó, chúng tôi sẽ trình bày ba lập luận chống lại ý tưởng rằng các hệ thống AI hiện tại có, hoặc sẽ sớm có ý thức trong tương lai, đó là:
**1. Ý thức được liên kết với một dòng cảm giác có ý nghĩa đối với sinh vật; **
**2. Trong não động vật có vú, ý thức được hỗ trợ bởi một hệ thống vỏ não thalamic liên kết chặt chẽ với nhau; **
**3. Ý thức có thể không thể tách rời khỏi tổ chức sinh học phức tạp của các hệ thống sinh học. **
Ý thức là gì?
Ý thức là một khái niệm phức tạp, và định nghĩa của nó đã được tranh luận. Trong bối cảnh khả năng giao tiếp và tương tác với nhau của con người, khả năng giao tiếp và đối thoại là một yếu tố bản năng để đánh giá xem một người có ý thức hay không.
Các cuộc trò chuyện tương tác dựa trên ngôn ngữ với LLM thường phát triển cảm giác trực quan, đó là điểm khởi đầu để đánh giá liệu LLM có khả năng có ý thức hay không. Tuy nhiên, trong khi LLM rất xuất sắc trong các cuộc trò chuyện tương tác, điều này không đáp ứng thước đo khách quan chính thức của ý thức, mà chỉ là bằng chứng sơ bộ về trí thông minh. **
Sự ra đời của LLM đã khiến chúng tôi đánh giá lại liệu một người có thể tạo ra ý thức trực tiếp từ các tương tác bằng lời nói với người khác hay không. Do đó, một quan điểm mới là chúng ta cần cải cách các tiêu chí để đánh giá khả năng giống con người và đặc điểm giống con người.
Từ "ý thức" thường có ý nghĩa khác nhau. Ví dụ, các nhà thần kinh học thường đề cập đến "mức độ ý thức", đó là đánh giá đầu tiên về việc một người có ý thức hay không và sau đó là mức độ hoặc trạng thái ý thức cụ thể theo cách chi tiết hơn. Mặt khác, các nhà tâm lý học quan tâm nhiều hơn đến nội dung của ý thức: những trải nghiệm, ký ức và suy nghĩ cụ thể về thế giới nội tâm của một cá nhân. Ngoài ra, có sự khác biệt giữa các nội dung khác nhau của ý thức. Trải nghiệm của chúng ta có thể được mô tả là hiện tượng hoặc kinh nghiệm (ví dụ: nhìn thấy hoặc ngửi thấy một quả táo, hoặc chạm vào cánh tay của bạn) hoặc ở dạng trừu tượng hơn (ví dụ: cách chúng ta tưởng tượng, hình dung hoặc thao túng trí nhớ khái niệm).
Câu hỏi liệu một hệ thống AI có ý thức hay không có thể được trả lời theo một số cách: nó có thể tập trung vào một số ý nghĩa của ý thức, hoặc nó có thể tập trung vào tất cả các ý nghĩa của ý thức cùng một lúc. Sau đây, chúng tôi tập trung chủ yếu vào nhận thức hiện tượng và khám phá xem máy móc có khả năng trải nghiệm thế giới một cách phi thường hay không.
Giới thiệu về môi trường
Một phần của một sinh vật có thể được sử dụng trong quá trình nhận thức thế giới bên ngoài được gọi là môi trường của nó. Ví dụ, võng mạc của con người phản ứng với ánh sáng với bước sóng 380 nm – 740 nm, tức là võng mạc có thể cảm nhận quang phổ từ xanh sang đỏ. Nếu không có sự trợ giúp của công nghệ bên ngoài, con người không thể phát hiện ánh sáng hồng ngoại (>740 nm) hoặc tia cực tím (< 380 nm) ngoài dải bước sóng này. Chúng ta cũng có môi trường tương tự về thính giác, somatosensory và cảm giác tiền đình, cụ thể là các miền thính giác tương ứng (tai người có thể nghe thấy âm thanh từ 20 Hz - 20.000 Hz), các miền somatosensory (con người có thể phân biệt các kích thích trong khoảng 1 mm của một số bộ phận nhất định của cơ thể) và miền tiền đình (cấu trúc 3D liên kết với nhau của các kênh bán nguyệt của con người cung cấp cho chúng ta cảm giác cân bằng bên trong). Đồng thời, các loài khác trong tự nhiên có thể phát hiện tín hiệu trong các dải khác của phổ điện từ. Ví dụ, ong có thể nhìn thấy ánh sáng trong phạm vi tia cực tím và rắn có thể phát hiện tín hiệu bức xạ hồng ngoại ngoài các tín hiệu thị giác truyền thống hơn.
Đó là, các động vật khác nhau có độ nhạy cảm khác nhau mà cơ thể và bộ não của chúng có thể cảm nhận được môi trường xung quanh. Gibson, một nhà tâm lý học người Mỹ, đề cập đến khả năng một sinh vật hoạt động trong một môi trường cụ thể là "khả năng chi trả" (với sự thâm nhập của công nghệ Internet, khả năng chi trả bắt đầu được sử dụng để giải thích việc sử dụng công nghệ kỹ thuật số trong thực tiễn truyền thông và tương tác hàng ngày của con người). **
Theo bản chất của thiết kế thuật toán của nó, LLM chỉ có các mẫu mã hóa nhị phân, chỉ có thể nhận đầu vào thông tin nhị phân và thực thi thêm các thuật toán mạng vốn có trong các cấu trúc máy biến áp phức tạp, tạo thành kiến trúc làm việc của LLM ngày nay. Trong khi các gai thần kinh cũng có khả năng mã hóa các tín hiệu tương tự đến thành tín hiệu kỹ thuật số (tức là tín hiệu nhị phân), luồng thông tin được gửi đến LLM rất trừu tượng và không có bất kỳ kết nối mạnh mẽ nào với thế giới bên ngoài. Văn bản và lời nói được mã hóa dưới dạng một chuỗi các chữ cái đơn giản là không thể phù hợp với sự phức tạp năng động của thế giới tự nhiên, tức là, môi trường của LLM (thông tin nhị phân được cung cấp cho nó) về cơ bản khác với thông tin đi vào não của chúng ta khi chúng ta mở mắt hoặc giao tiếp các cuộc trò chuyện và những trải nghiệm đi kèm với nó. Diễn ngôn triết học truyền thống nhấn mạnh tính độc đáo của luồng thông tin giữa các loài khác nhau (ví dụ: sự khác biệt giữa người và dơi) và các đặc điểm hiện tượng học của những trải nghiệm này. Chúng tôi tin rằng đầu vào thông tin thu được bởi LLM có thể thể hiện sự khác biệt đáng kể hơn, mặc dù không có cách dứt khoát để định lượng sự khác biệt này trong thời điểm hiện tại.
Điều đó đang được nói, đầu vào của các hệ thống AI sẽ trở nên phong phú hơn trong tương lai. Các LLM trong tương lai có thể được trang bị các loại đầu vào khác nhau có thể phù hợp hơn với các loại tín hiệu mà các tác nhân có ý thức có thể truy cập hàng ngày (tức là số liệu thống kê từ thế giới tự nhiên). Vì vậy, môi trường có sẵn của các hệ thống AI trong tương lai sẽ rộng hơn môi trường của con người?
Để trả lời câu hỏi này, chúng ta phải nhận ra rằng tiềm thức và trải nghiệm có ý thức của con người không chỉ được xác định bởi đầu vào cảm giác. Ví dụ, hãy tưởng tượng rằng khi chúng ta nằm trong phao, chúng ta vẫn có ý thức mặc dù thiếu kinh nghiệm cảm giác bình thường. Khái niệm ở đây được nhấn mạnh rằng môi trường giả định một quan điểm chủ quan vốn có, nghĩa là bắt đầu từ một chủ đề. Tương tự, afforfority phụ thuộc vào bản chất bên trong của chủ thể, đặc biệt là động lực và mục tiêu của đối tượng. Điều này có nghĩa là ý thức không thể được tạo ra bởi môi trường một mình (dữ liệu đầu vào của LLM). Do đó, chỉ đơn giản là cung cấp một luồng dữ liệu lớn vào hệ thống AI không làm cho hệ thống AI tự có ý thức. **
Quan điểm này có thể thúc đẩy chúng ta suy nghĩ lại một số giả định cơ bản trong khoa học về ý thức. Cụ thể, khi các hệ thống AI dần thể hiện khả năng ngày càng tinh vi, các nhà nghiên cứu sẽ phải đánh giá lại sự cần thiết của các quá trình liên quan đến bản thân và tác nhân cơ bản hơn được đề xuất bởi các lý thuyết ý thức nhất định cho sự xuất hiện của ý thức.
**"Tích hợp" ý thức **
Hiện nay, đã có nhiều nghiên cứu về mối tương quan thần kinh của ý thức, trong đó có nhiều lý thuyết khác nhau về các mạch thần kinh của quá trình xử lý ý thức. Một số nhấn mạnh rằng ý thức được củng cố bởi một mạng lưới vỏ não dày đặc, được kết nối cao. **Mạng lưới đồi thị-vỏ não bao gồm các vùng vỏ não, các mối nối vỏ não-vỏ não và các hình chiếu phân kỳ của các hạt nhân đồi thị cao hơn đến các vùng vỏ não. Cấu trúc cụ thể này của hệ thống vỏ não hỗ trợ xử lý suy nghĩ tuần hoàn và phức tạp làm nền tảng cho ý thức và tích hợp ý thức (tức là, ý thức được thống nhất mặc dù thực tế là ý thức phát sinh từ các vùng não khác nhau). Tuy nhiên, các lý thuyết khác nhau giữ quan điểm khác nhau về cách đạt được sự tích hợp của ý thức.
Theo lý thuyết không gian làm việc nơ-ron thần kinh toàn cầu (GNW), ý thức dựa vào một không gian làm việc trung tâm bao gồm một hệ thống vỏ não phía trước phân tán. Không gian làm việc này tích hợp thông tin từ các bộ xử lý vỏ não cục bộ và sau đó truyền nó đến tất cả các bộ xử lý cục bộ vỏ não trên quy mô toàn cầu, với việc phân phối toàn cầu tách biệt các quá trình có ý thức và vô thức. Các lý thuyết khác về ý thức cho rằng sự tích hợp có ý thức đạt được bởi các quá trình thần kinh khác. Ví dụ, lý thuyết tích hợp đuôi gai thần kinh (DIT) cho thấy sự tích hợp có ý thức xảy ra thông qua hiện tượng đồng bộ hóa tần số cao giữa các vùng vỏ não khác nhau, có thể liên quan đến các chức năng khác nhau bao gồm nhận thức, nhận thức hoặc lập kế hoạch vận động, tùy thuộc vào vùng vỏ não liên quan.
Hình 2: Cấu trúc thần kinh của tích hợp ý thức dựa trên lý thuyết tích hợp đuôi gai tế bào thần kinh (DIT) Nguồn: Xu hướng trong khoa học thần kinh
*Chú thích: Trong lý thuyết DIT (Hình 2), các nhà nghiên cứu tin rằng sự tích hợp có ý thức toàn cầu cũng phụ thuộc vào sự tích hợp cục bộ của các tế bào thần kinh hình chóp trong lớp thứ năm của vỏ não, một tế bào thần kinh kích thích lớn là trung tâm trong cả mạch thalamic-vỏ não và vỏ não. Có hai cấu trúc chính trong loại tế bào thần kinh này (Hình 2, hình trụ màu cam và đỏ) xử lý các loại thông tin hoàn toàn khác nhau: cấu trúc cơ bản (màu đỏ) xử lý thông tin cơ bản bên ngoài, trong khi cấu trúc đỉnh (màu cam) xử lý thông tin được tạo ra bên trong. Theo lý thuyết DIT, trong trạng thái ý thức, hai cấu trúc này được kết hợp với nhau, cho phép thông tin chảy qua các mạch đồi thị-vỏ não và vỏ não-vỏ não, do đó cho phép tích hợp thông tin và tạo ý thức trên toàn hệ thống. *
Điều quan trọng cần lưu ý là kiến trúc của LLM ngày nay và các hệ thống AI khác thiếu các tính năng mà các lý thuyết này nhấn mạnh: các LLM hiện tại không có tế bào thần kinh hình chóp lưỡng cấu trúc tương đương, cũng không có kiến trúc thalamic tập trung, không gian làm việc toàn cầu hoặc nhiều tính năng của các hệ thống kích thích tăng dần. Nói cách khác, các hệ thống AI hiện tại thiếu các tính năng não hiện đang được cộng đồng khoa học thần kinh tin rằng để củng cố việc tạo ra ý thức. Mặc dù não động vật có vú không phải là cấu trúc duy nhất có khả năng hỗ trợ sản xuất ý thức, bằng chứng từ sinh học thần kinh cho thấy sự hình thành ý thức của động vật có vú được xác định bởi các nguyên tắc cấu trúc rất cụ thể (tức là các kết nối đơn giản giữa các tế bào thần kinh tích hợp và kích thích). Về mặt cấu trúc địa hình, cấu trúc của các hệ thống AI hiện có cực kỳ đơn giản, đó là một trong những lý do tại sao chúng tôi không coi các hệ thống AI hiện có là nhận thức phi thường.
Vì vậy, liệu các mô hình AI trong tương lai cuối cùng có thể tích hợp quá trình "tích hợp" mà nhiều lý thuyết về ý thức coi là cốt lõi? Để đối phó với vấn đề này, khái niệm "tích hợp" được đề xuất bởi lý thuyết GNW cung cấp một cách tương đối đơn giản để thực hiện nó. Trên thực tế, một số hệ thống AI gần đây đã được tích hợp vào một cái gì đó giống như không gian làm việc toàn cầu được chia sẻ bởi bộ xử lý cục bộ. Vì quá trình tính toán truyền tải toàn cầu có thể được thực hiện trong một hệ thống AI, theo lý thuyết này, một hệ thống AI áp dụng phương pháp tính toán này sẽ chứa các thành phần cốt lõi của ý thức tiềm ẩn.
Tuy nhiên, như đã đề cập trước đó, không phải tất cả các lý thuyết về ý thức đều đồng ý rằng phương thức tích hợp này là chìa khóa để tạo ra ý thức. Ví dụ, lý thuyết thông tin tích hợp về ý thức lập luận rằng các hệ thống AI dựa trên phần mềm được triển khai trên một máy tính hiện đại điển hình không thể có ý thức vì các máy tính hiện đại không có kiến trúc phù hợp để đạt được khả năng lý luận nhân quả cần thiết để tích hợp đầy đủ thông tin. Do đó, chúng tôi sẽ xem xét khả năng thứ ba, đó là ý thức có thể đạt được về nguyên tắc, nhưng nó có thể cần phải vượt ra ngoài mức độ đặc hiệu tính toán hiện tại (và có lẽ trong tương lai) của các hệ thống AI. **
**Ý thức là một quá trình sinh học phức tạp **
Việc tạo ra ý thức không chỉ phụ thuộc vào kiến trúc của hệ thống. Ví dụ, khi chúng ta đang ngủ sâu hoặc gây mê, cấu trúc của hệ thống vỏ não không thay đổi, nhưng ý thức biến mất. Ngay cả trong giấc ngủ sâu, các phản ứng thần kinh cục bộ và hoạt động của vành đai gamma ở các khu vực cảm giác chính cũng tương tự như ở trạng thái ý thức. Điều này cho thấy ý thức dựa vào các quá trình thần kinh cụ thể, nhưng các quá trình thần kinh này khác nhau ở bộ não có ý thức và vô thức. **
Để làm sáng tỏ sự khác biệt chi tiết giữa xử lý có ý thức và vô thức, trước tiên chúng ta hãy quay trở lại lý thuyết tích hợp đuôi gai tế bào thần kinh (DIT). Lý thuyết DIT chứa một số sắc thái sinh học thần kinh liên quan đến các quá trình thần kinh được xử lý một cách có ý thức và vô thức. Lý thuyết DIT đề xuất rằng sự khác biệt chính giữa xử lý có ý thức và vô thức nằm ở sự tích hợp của hai cấu trúc ngăn của các tế bào hình chóp (Hình 2). Như đã đề cập trước đó, trong quá trình xử lý có ý thức, hai cấu trúc này tương tác với nhau, cho phép toàn bộ hệ thống vỏ não xử lý và tích hợp thông tin phức tạp. Tuy nhiên, ở trạng thái gây mê, các thuốc gây mê khác nhau dẫn đến sự tách rời chức năng giữa hai cấu trúc của tế bào thần kinh đốt sống. Nói cách khác, mặc dù các tế bào thần kinh đốt sống này còn nguyên vẹn về mặt giải phẫu và có thể kích thích tiềm năng hành động, khả năng tích hợp đuôi gai của chúng bị hạn chế nghiêm trọng về mặt sinh lý, tức là phản hồi từ trên xuống không thể ảnh hưởng đến quá trình xử lý. Các nghiên cứu đã chỉ ra rằng khớp nối đuôi gai này được điều khiển bởi các thụ thể metabotropic, tuy nhiên cấu trúc này thường bị bỏ qua trong các mô hình tính toán và mạng lưới thần kinh nhân tạo. Ngoài ra, các nghiên cứu đã chỉ ra rằng trong trường hợp này, các hạt nhân thalamic cao hơn kiểm soát hoạt động của thụ thể chuyển hóa này. Do đó, các quá trình sinh học thần kinh cụ thể có thể chịu trách nhiệm "bật" và "tắt" ý thức trong não. Điều này cho thấy chất lượng trải nghiệm trong não động vật có vú có mối quan hệ phức tạp với các quá trình cơ bản tạo ra ý thức. **
Mặc dù những lý thuyết này đủ thuyết phục, nhưng gần như chắc chắn rằng kiến thức này mờ nhạt so với sự phức tạp của các quá trình thần kinh phát sinh từ sự hiểu biết hoàn toàn về ý thức. Những giải thích hiện tại của chúng ta về ý thức dựa trên các lý thuyết như không gian làm việc toàn cầu, thông tin tích hợp, xử lý tuần hoàn, tích hợp đuôi gai, v.v., nhưng các quá trình sinh học mà ý thức thực sự phát sinh có thể phức tạp hơn nhiều so với hiện tại được hiểu bởi các lý thuyết này. Thậm chí hoàn toàn có khả năng các ý tưởng cấp độ tính toán trừu tượng hiện đang được sử dụng để xây dựng cuộc thảo luận về nghiên cứu ý thức có thể đã hoàn toàn không tính đến các chi tiết tính toán cần thiết để giải thích ý thức.
Nói cách khác, sinh học rất phức tạp và sự hiểu biết hiện tại của chúng ta về máy tính sinh học còn hạn chế (Hình 3), vì vậy có lẽ chúng ta thiếu các công cụ toán học và thực nghiệm phù hợp để hiểu ý thức. **
Hình 2: Cấu trúc thần kinh của tích hợp ý thức dựa trên lý thuyết tích hợp đuôi gai tế bào thần kinh (DIT) Nguồn: Xu hướng trong khoa học thần kinh
*Chú thích: Trong lý thuyết DIT (Hình 2), các nhà nghiên cứu tin rằng sự tích hợp có ý thức toàn cầu cũng phụ thuộc vào sự tích hợp cục bộ của các tế bào thần kinh hình chóp trong lớp thứ năm của vỏ não, một tế bào thần kinh kích thích lớn là trung tâm trong cả mạch thalamic-vỏ não và vỏ não. Có hai cấu trúc chính trong loại tế bào thần kinh này (Hình 2, hình trụ màu cam và đỏ) xử lý các loại thông tin hoàn toàn khác nhau: cấu trúc cơ bản (màu đỏ) xử lý thông tin cơ bản bên ngoài, trong khi cấu trúc đỉnh (màu cam) xử lý thông tin được tạo ra bên trong. Theo lý thuyết DIT, trong trạng thái ý thức, hai cấu trúc này được kết hợp với nhau, cho phép thông tin chảy qua các mạch đồi thị-vỏ não và vỏ não-vỏ não, do đó cho phép tích hợp thông tin và tạo ý thức trên toàn hệ thống. *
Để hiểu rõ hơn về sự phức tạp sinh học, điều quan trọng là phải nhấn mạnh rằng các quá trình sinh học được mô tả ở trên ở cấp độ tế bào và hệ thống phải xảy ra trong một sinh vật sống và không thể tách rời. Các sinh vật sống khác với máy móc và thuật toán AI ngày nay ở chỗ chúng có thể liên tục duy trì bản thân ở các cấp độ xử lý khác nhau. Ngoài ra, các hệ thống sống có lịch sử tiến hóa và phát triển nhiều mặt, và sự tồn tại của chúng phụ thuộc vào các hoạt động của chúng ở nhiều cấp độ tổ chức. Ý thức được liên kết phức tạp với việc tổ chức các hệ thống sống. Tuy nhiên, điều đáng chú ý là các máy tính ngày nay không có khả năng thể hiện sự phức tạp về tổ chức này của các hệ thống sống (tức là sự tương tác giữa các cấp độ khác nhau của hệ thống). Điều này cho thấy các thuật toán AI hiện đại không có bất kỳ ràng buộc nào ở cấp độ tổ chức và không thể hoạt động hiệu quả như một hệ thống sống. Điều này có nghĩa là miễn là AI dựa trên phần mềm, nó có thể không phù hợp để có ý thức và thông minh. **
Khái niệm phức tạp sinh học cũng có thể được thể hiện ở cấp độ tế bào. Một tế bào thần kinh sinh học không chỉ là một thực thể trừu tượng có thể được nắm bắt đầy đủ với một vài dòng mã. Ngược lại, các tế bào thần kinh sinh học có một tổ chức nhiều lớp và dựa vào các chuỗi hơn nữa của các quá trình sinh lý phức tạp trong các tế bào thần kinh. Lấy "chu trình Krebs", ví dụ, là cơ sở của hô hấp tế bào và là một quá trình quan trọng trong việc duy trì cân bằng nội môi tế bào. Hô hấp tế bào là một quá trình sinh học quan trọng cho phép các tế bào chuyển đổi năng lượng được lưu trữ trong các phân tử hữu cơ thành một dạng năng lượng mà các tế bào có thể sử dụng. Tuy nhiên, quá trình này không thể được "nén" vào phần mềm, vì các quá trình lý sinh như hô hấp tế bào cần phải dựa trên các phân tử vật lý thực. Tất nhiên, điều này không có nghĩa là ý thức cần một "chu kỳ Krebs", mà là nhấn mạnh rằng những thách thức tương tự có thể liên quan đến quá trình hiểu ý thức, tức là, có lẽ ý thức không thể tách rời khỏi cơ chế cơ bản. **
Tuy nhiên, chúng ta không hoàn toàn đồng ý với tuyên bố rằng ý thức hoàn toàn không thể được tạo ra bởi các hệ thống thông minh, nhưng chúng ta phải xem xét mối tương quan giữa ý thức và tổ chức sinh học phức tạp đằng sau sự sống, và các loại tính toán nắm bắt bản chất của ý thức có thể phức tạp hơn nhiều so với lý thuyết hiện tại của chúng ta hiểu (Hình 3). Hầu như không thể thực hiện "sinh thiết" ý thức và loại bỏ nó khỏi mô. Quan điểm này mâu thuẫn với nhiều lý thuyết hiện tại về ý thức, cho rằng ý thức có thể phát sinh ở cấp độ tính toán trừu tượng. Bây giờ, giả định này cần được cập nhật dưới ánh sáng của các hệ thống AI hiện đại: để hiểu đầy đủ ý thức, chúng ta không thể bỏ qua sự phụ thuộc lẫn nhau quy mô chéo và sự phức tạp của tổ chức được quan sát thấy trong các hệ thống sống. **
Mặc dù các hệ thống AI bắt chước các đối tác sinh học của chúng ở cấp độ điện toán mạng, nhưng trong các hệ thống này, tất cả các cấp độ khác của quá trình sinh học đã được trừu tượng hóa khỏi các quá trình có mối quan hệ nhân quả chặt chẽ với ý thức trong não, vì vậy các hệ thống AI hiện tại có thể có ý thức trừu tượng. Kết quả là, LLM và các hệ thống AI trong tương lai có thể bị mắc kẹt trong một dòng vô tận các tính năng ý thức mô phỏng, nhưng không có bất kỳ ý thức phi thường nào để nói đến. Nếu ý thức thực sự liên quan đến các cấp độ xử lý khác này, hoặc với sự tương tác của chúng giữa các quy mô khác nhau, thì chúng ta còn lâu mới có khả năng một cỗ máy tạo ra ý thức.
Tóm tắt
Ở đây, chúng tôi khám phá khả năng ý thức trong LLM và các hệ thống AI trong tương lai từ góc độ khoa học thần kinh. Hấp dẫn như LLM, họ không có ý thức và sẽ không có ý thức trong một khoảng thời gian ngắn hơn trong tương lai.
Đầu tiên, chúng tôi minh họa sự khác biệt lớn giữa môi trường của động vật có vú (một "phần nhỏ" của thế giới bên ngoài mà chúng có thể cảm nhận được) và môi trường rất nghèo nàn và hạn chế của LLM. Thứ hai, chúng tôi lập luận rằng cấu trúc liên kết của LLM, trong khi rất phức tạp, về mặt thực nghiệm rất khác với các chi tiết sinh học thần kinh của các mạch liên quan đến ý thức động vật có vú, và do đó không có lý do chính đáng để nghĩ rằng LLM có khả năng tạo ra ý thức hiện tượng (Hình 1). Vẫn chưa thể trừu tượng hóa ý thức khỏi sự phức tạp của tổ chức sinh học, vốn có trong các hệ thống sống, nhưng rõ ràng không tồn tại trong các hệ thống AI. Nhìn chung, ba điểm chính trên khiến các LLM không thể có ý thức ở dạng hiện tại. Chúng chỉ bắt chước các đặc điểm của giao tiếp ngôn ngữ tự nhiên của con người được sử dụng để mô tả sự phong phú của trải nghiệm có ý thức.
Thông qua bài viết này, chúng tôi hy vọng rằng các lập luận được trình bày sẽ có một số tác động và phản ánh tích cực (xem Câu hỏi chưa được giải quyết) và không chỉ đại diện cho một sự phản đối. Đầu tiên, các mối quan tâm đạo đức tiềm năng hiện tại về năng lực nhận thức của LLM mang tính giả thuyết hơn là thực tế. Ngoài ra, chúng tôi tin rằng sự hiểu biết sâu sắc hơn về sự tương đồng và khác biệt giữa LLM và cấu trúc liên kết não động vật có vú có thể thúc đẩy những tiến bộ trong học máy và khoa học thần kinh. Chúng tôi cũng hy vọng sẽ thúc đẩy cộng đồng học máy và khoa học thần kinh bằng cách bắt chước các đặc điểm của mô não và tìm hiểu cách các hệ thống phân tán đơn giản xử lý các luồng thông tin phức tạp. Vì những lý do này, chúng tôi lạc quan rằng sự hợp tác trong tương lai giữa các nhà nghiên cứu AI và các nhà thần kinh học có thể dẫn đến sự hiểu biết sâu sắc hơn về ý thức.
** Theo dõi chưa được giải quyết:**
Đánh giá nhận thức trong LLM và AI thường dựa vào các bài kiểm tra dựa trên ngôn ngữ để phát hiện ý thức. Có thể đánh giá ý thức chỉ dựa trên ngôn ngữ (tức là văn bản) và có các tính năng đánh giá thêm có thể giúp xác định xem một hệ thống nhân tạo có ý thức hay không?
Cơ sở thần kinh của ý thức động vật có vú có liên quan đến hệ thống vỏ não thalamic. Làm thế nào hệ thống thalamic-vỏ não có thể được thực hiện trong AI? Những chức năng và nhiệm vụ cụ thể nào sẽ được hưởng lợi từ hệ thống thalamic-vỏ não?
Hệ thống kích thích tăng dần cũng đóng một vai trò quan trọng trong việc tạo ra ý thức ở các sinh vật, và nó đóng một vai trò phức tạp và nhiều mặt trong việc định hình động lực học thần kinh. AI cần bắt chước các quá trình khác nhau này ở mức độ nào để gặt hái lợi thế tính toán của hệ thống thức tỉnh đang trỗi dậy?
Ngoài hệ thống thalamic-vỏ não, đuôi gai đóng một vai trò quan trọng trong một số lý thuyết về ý thức được thảo luận trong bài viết này. Có phải đuôi gai chỉ là một yếu tố làm tăng độ phức tạp / hiệu quả tính toán của mạng lưới thần kinh sinh học, hay còn nhiều hơn thế?
Sự phức tạp về tổ chức của các hệ thống sống có liên quan đến ý thức không? Các hệ thống sống được tạo thành từ các cấp độ khác nhau của các quá trình xử lý tương tác với nhau. Sự phức tạp về tổ chức của các hệ thống sống có thể được giải thích chi tiết đầy đủ hơn không? Có phải các khuôn khổ toán học mới cần thiết để đối phó với các hệ thống như vậy để làm sáng tỏ hơn các quá trình sinh học mà ý thức phát sinh?
Một số lý thuyết cho rằng ý thức và cơ quan có mối liên hệ chặt chẽ với nhau. Để hiểu làm thế nào ý thức phát sinh từ hoạt động sinh học, trước tiên nó có cần phải hiểu cơ quan không?
Liên kết gốc
Aru, J., Larkum, M.E. và Shine, JM (2023b) 'Tính khả thi của ý thức nhân tạo qua lăng kính khoa học thần kinh', Xu hướng trong khoa học thần kinh [Preprint] . doi:10.1016/j.tins.2023.09.009.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Tạp chí phụ Cell đã công bố một cách phê bình rằng AI không có khả năng tạo ra ý thức trong ngắn hạn
Nguồn gốc: NextQuestion
Tương tác với các mô hình ngôn ngữ lớn (LLM), chúng ta luôn có cảm giác mơ hồ rằng chúng thực sự có thể có ý thức. Tuy nhiên, từ quan điểm của các nhà thần kinh học, quan điểm này dường như rất khó để giữ.
Trong một bài báo gần đây được công bố trên Trends in Neurosciences, một tạp chí phụ của Cell, ba học giả từ khoa học máy tính, sinh học và khoa học thần kinh đã đi sâu vào câu hỏi "Trí tuệ nhân tạo có thể tạo ra ý thức không?"
Tóm lại, họ đồng ý rằng LLM không thể có ý thức ở dạng hiện tại của chúng. Làm thế nào mà một quan điểm phân loại như vậy xảy ra?
LLM &; Ý thức
Từ lâu, người ta đã đặt câu hỏi động vật nào có ý thức và thực thể nào có ý thức ngoài động vật. Sự ra đời gần đây của LLM đã mang lại một viễn cảnh hoàn toàn mới cho vấn đề. Nó cho chúng ta thấy khả năng trò chuyện (một biểu hiện của ý thức con người) và khiến chúng ta xác định lại và suy nghĩ lại ba khái niệm "hiểu biết", "thông minh" và "ý thức".
LLM là các mạng thần kinh nhân tạo phức tạp, nhiều lớp với hàng tỷ trọng lượng kết nối được đào tạo trên hàng chục tỷ từ dữ liệu văn bản, bao gồm các cuộc trò chuyện bằng ngôn ngữ tự nhiên giữa con người. Bằng cách đặt câu hỏi thông qua văn bản, người dùng được đưa vào một bối cảnh mô phỏng hấp dẫn. Nếu bạn sẵn sàng dành thời gian để sử dụng các hệ thống này, thật khó để không bị thổi bay bởi độ sâu và chất lượng của mạng. Đặt cho nó một câu hỏi, và câu trả lời của nó thường tương tự một cách tinh tế với câu trả lời mà một cá nhân có ý thức có thể tạo ra. Do đó, là một cá nhân sâu sắc, có ý thức, thật dễ dàng để kết luận rằng các câu trả lời tôi nhận được được tạo ra bởi một cá nhân cũng "có ý thức" và có khả năng suy nghĩ, cảm nhận, lý luận và trải nghiệm. **
Dựa trên kết quả của các "thử nghiệm Turing" như vậy, chúng ta không thể không tự hỏi liệu LLM đã có ý thức hay chúng sẽ sớm có ý thức? Tuy nhiên, câu hỏi này, đến lượt nó, sẽ dẫn đến một loạt các tình huống khó xử về đạo đức, chẳng hạn như liệu có đạo đức khi tiếp tục phát triển LLM liên tục trên bờ vực thức tỉnh "ý thức" hay không? Ý tưởng cho rằng LLM là "có ý thức" không được chấp nhận rộng rãi trong cộng đồng khoa học thần kinh ngày nay, nhưng khi khả năng của các hệ thống AI tiếp tục được cải thiện, cuộc thảo luận về ý tưởng này chắc chắn đã trở lại nổi bật. Ngoài ra, các phương tiện truyền thông lớn cũng đang thảo luận rộng rãi về vấn đề này, khiến các nhà thần kinh học phải giải thích vấn đề một cách khách quan từ góc độ chuyên môn của chính họ.
Ý tưởng cho rằng LLM có khả năng có ý thức thường được hỗ trợ bởi một lập luận quan trọng rằng kiến trúc của LLM phần lớn được lấy cảm hứng từ các đặc điểm của bộ não (Hình 1) và bộ não là đối tượng duy nhất chúng ta có thể tự tin gán cho "ý thức" vào lúc này. Trong khi các mạng thần kinh nhân tạo ban đầu được thiết kế dựa trên các phiên bản đơn giản hóa của vỏ não, các LLM hiện đại được thiết kế và điều chỉnh cao cho các mục đích cụ thể và không còn giữ được sự tương đồng sâu sắc với các cấu trúc não đã biết. Trên thực tế, nhiều tính năng con đường làm cho LLM trở nên mạnh mẽ về mặt tính toán (Hình 1) có kiến trúc rất khác với các hệ thống mà chúng ta hiện đang nghĩ có sức mạnh nhân quả trong việc tạo ra và định hình ý thức ở động vật có vú. Ví dụ, nhiều lý thuyết khoa học thần kinh liên quan đến việc tạo ra ý thức cho thấy hệ thống vỏ não thalamic và hệ thống kích thích đóng vai trò trung tâm trong quá trình xử lý ý thức, không có sẵn trong các LLM hiện đại.
Tại thời điểm này, người ta có thể hỏi, có quan trọng đến mức kiến trúc của LLM bắt chước các đặc điểm của bộ não không?
Theo chúng tôi, lý do chính là chúng ta chỉ có thể chắc chắn về sự tồn tại của một ý thức vào lúc này, xuất phát từ bộ não được nhúng trong cơ thể phức tạp. Người ta có thể lập luận rằng, nói một cách chính xác, lập luận này có thể được thu hẹp hơn nữa chỉ còn con người, mặc dù nhiều đặc điểm cấp hệ thống được cho là đóng vai trò quan trọng trong ý thức chủ quan là phổ biến trong toàn phổ sinh học, mở rộng đến cả động vật có vú, thậm chí cả động vật không xương sống.
Như đã nói, trước tiên hãy bắt đầu với ý nghĩa chính xác của "ý thức". Sau đó, chúng tôi sẽ trình bày ba lập luận chống lại ý tưởng rằng các hệ thống AI hiện tại có, hoặc sẽ sớm có ý thức trong tương lai, đó là:
Ý thức là gì?
Ý thức là một khái niệm phức tạp, và định nghĩa của nó đã được tranh luận. Trong bối cảnh khả năng giao tiếp và tương tác với nhau của con người, khả năng giao tiếp và đối thoại là một yếu tố bản năng để đánh giá xem một người có ý thức hay không.
Các cuộc trò chuyện tương tác dựa trên ngôn ngữ với LLM thường phát triển cảm giác trực quan, đó là điểm khởi đầu để đánh giá liệu LLM có khả năng có ý thức hay không. Tuy nhiên, trong khi LLM rất xuất sắc trong các cuộc trò chuyện tương tác, điều này không đáp ứng thước đo khách quan chính thức của ý thức, mà chỉ là bằng chứng sơ bộ về trí thông minh. **
Sự ra đời của LLM đã khiến chúng tôi đánh giá lại liệu một người có thể tạo ra ý thức trực tiếp từ các tương tác bằng lời nói với người khác hay không. Do đó, một quan điểm mới là chúng ta cần cải cách các tiêu chí để đánh giá khả năng giống con người và đặc điểm giống con người.
Từ "ý thức" thường có ý nghĩa khác nhau. Ví dụ, các nhà thần kinh học thường đề cập đến "mức độ ý thức", đó là đánh giá đầu tiên về việc một người có ý thức hay không và sau đó là mức độ hoặc trạng thái ý thức cụ thể theo cách chi tiết hơn. Mặt khác, các nhà tâm lý học quan tâm nhiều hơn đến nội dung của ý thức: những trải nghiệm, ký ức và suy nghĩ cụ thể về thế giới nội tâm của một cá nhân. Ngoài ra, có sự khác biệt giữa các nội dung khác nhau của ý thức. Trải nghiệm của chúng ta có thể được mô tả là hiện tượng hoặc kinh nghiệm (ví dụ: nhìn thấy hoặc ngửi thấy một quả táo, hoặc chạm vào cánh tay của bạn) hoặc ở dạng trừu tượng hơn (ví dụ: cách chúng ta tưởng tượng, hình dung hoặc thao túng trí nhớ khái niệm).
Câu hỏi liệu một hệ thống AI có ý thức hay không có thể được trả lời theo một số cách: nó có thể tập trung vào một số ý nghĩa của ý thức, hoặc nó có thể tập trung vào tất cả các ý nghĩa của ý thức cùng một lúc. Sau đây, chúng tôi tập trung chủ yếu vào nhận thức hiện tượng và khám phá xem máy móc có khả năng trải nghiệm thế giới một cách phi thường hay không.
Giới thiệu về môi trường
Một phần của một sinh vật có thể được sử dụng trong quá trình nhận thức thế giới bên ngoài được gọi là môi trường của nó. Ví dụ, võng mạc của con người phản ứng với ánh sáng với bước sóng 380 nm – 740 nm, tức là võng mạc có thể cảm nhận quang phổ từ xanh sang đỏ. Nếu không có sự trợ giúp của công nghệ bên ngoài, con người không thể phát hiện ánh sáng hồng ngoại (>740 nm) hoặc tia cực tím (< 380 nm) ngoài dải bước sóng này. Chúng ta cũng có môi trường tương tự về thính giác, somatosensory và cảm giác tiền đình, cụ thể là các miền thính giác tương ứng (tai người có thể nghe thấy âm thanh từ 20 Hz - 20.000 Hz), các miền somatosensory (con người có thể phân biệt các kích thích trong khoảng 1 mm của một số bộ phận nhất định của cơ thể) và miền tiền đình (cấu trúc 3D liên kết với nhau của các kênh bán nguyệt của con người cung cấp cho chúng ta cảm giác cân bằng bên trong). Đồng thời, các loài khác trong tự nhiên có thể phát hiện tín hiệu trong các dải khác của phổ điện từ. Ví dụ, ong có thể nhìn thấy ánh sáng trong phạm vi tia cực tím và rắn có thể phát hiện tín hiệu bức xạ hồng ngoại ngoài các tín hiệu thị giác truyền thống hơn.
Đó là, các động vật khác nhau có độ nhạy cảm khác nhau mà cơ thể và bộ não của chúng có thể cảm nhận được môi trường xung quanh. Gibson, một nhà tâm lý học người Mỹ, đề cập đến khả năng một sinh vật hoạt động trong một môi trường cụ thể là "khả năng chi trả" (với sự thâm nhập của công nghệ Internet, khả năng chi trả bắt đầu được sử dụng để giải thích việc sử dụng công nghệ kỹ thuật số trong thực tiễn truyền thông và tương tác hàng ngày của con người). **
Theo bản chất của thiết kế thuật toán của nó, LLM chỉ có các mẫu mã hóa nhị phân, chỉ có thể nhận đầu vào thông tin nhị phân và thực thi thêm các thuật toán mạng vốn có trong các cấu trúc máy biến áp phức tạp, tạo thành kiến trúc làm việc của LLM ngày nay. Trong khi các gai thần kinh cũng có khả năng mã hóa các tín hiệu tương tự đến thành tín hiệu kỹ thuật số (tức là tín hiệu nhị phân), luồng thông tin được gửi đến LLM rất trừu tượng và không có bất kỳ kết nối mạnh mẽ nào với thế giới bên ngoài. Văn bản và lời nói được mã hóa dưới dạng một chuỗi các chữ cái đơn giản là không thể phù hợp với sự phức tạp năng động của thế giới tự nhiên, tức là, môi trường của LLM (thông tin nhị phân được cung cấp cho nó) về cơ bản khác với thông tin đi vào não của chúng ta khi chúng ta mở mắt hoặc giao tiếp các cuộc trò chuyện và những trải nghiệm đi kèm với nó. Diễn ngôn triết học truyền thống nhấn mạnh tính độc đáo của luồng thông tin giữa các loài khác nhau (ví dụ: sự khác biệt giữa người và dơi) và các đặc điểm hiện tượng học của những trải nghiệm này. Chúng tôi tin rằng đầu vào thông tin thu được bởi LLM có thể thể hiện sự khác biệt đáng kể hơn, mặc dù không có cách dứt khoát để định lượng sự khác biệt này trong thời điểm hiện tại.
Điều đó đang được nói, đầu vào của các hệ thống AI sẽ trở nên phong phú hơn trong tương lai. Các LLM trong tương lai có thể được trang bị các loại đầu vào khác nhau có thể phù hợp hơn với các loại tín hiệu mà các tác nhân có ý thức có thể truy cập hàng ngày (tức là số liệu thống kê từ thế giới tự nhiên). Vì vậy, môi trường có sẵn của các hệ thống AI trong tương lai sẽ rộng hơn môi trường của con người?
Để trả lời câu hỏi này, chúng ta phải nhận ra rằng tiềm thức và trải nghiệm có ý thức của con người không chỉ được xác định bởi đầu vào cảm giác. Ví dụ, hãy tưởng tượng rằng khi chúng ta nằm trong phao, chúng ta vẫn có ý thức mặc dù thiếu kinh nghiệm cảm giác bình thường. Khái niệm ở đây được nhấn mạnh rằng môi trường giả định một quan điểm chủ quan vốn có, nghĩa là bắt đầu từ một chủ đề. Tương tự, afforfority phụ thuộc vào bản chất bên trong của chủ thể, đặc biệt là động lực và mục tiêu của đối tượng. Điều này có nghĩa là ý thức không thể được tạo ra bởi môi trường một mình (dữ liệu đầu vào của LLM). Do đó, chỉ đơn giản là cung cấp một luồng dữ liệu lớn vào hệ thống AI không làm cho hệ thống AI tự có ý thức. **
Quan điểm này có thể thúc đẩy chúng ta suy nghĩ lại một số giả định cơ bản trong khoa học về ý thức. Cụ thể, khi các hệ thống AI dần thể hiện khả năng ngày càng tinh vi, các nhà nghiên cứu sẽ phải đánh giá lại sự cần thiết của các quá trình liên quan đến bản thân và tác nhân cơ bản hơn được đề xuất bởi các lý thuyết ý thức nhất định cho sự xuất hiện của ý thức.
**"Tích hợp" ý thức **
Hiện nay, đã có nhiều nghiên cứu về mối tương quan thần kinh của ý thức, trong đó có nhiều lý thuyết khác nhau về các mạch thần kinh của quá trình xử lý ý thức. Một số nhấn mạnh rằng ý thức được củng cố bởi một mạng lưới vỏ não dày đặc, được kết nối cao. **Mạng lưới đồi thị-vỏ não bao gồm các vùng vỏ não, các mối nối vỏ não-vỏ não và các hình chiếu phân kỳ của các hạt nhân đồi thị cao hơn đến các vùng vỏ não. Cấu trúc cụ thể này của hệ thống vỏ não hỗ trợ xử lý suy nghĩ tuần hoàn và phức tạp làm nền tảng cho ý thức và tích hợp ý thức (tức là, ý thức được thống nhất mặc dù thực tế là ý thức phát sinh từ các vùng não khác nhau). Tuy nhiên, các lý thuyết khác nhau giữ quan điểm khác nhau về cách đạt được sự tích hợp của ý thức.
Theo lý thuyết không gian làm việc nơ-ron thần kinh toàn cầu (GNW), ý thức dựa vào một không gian làm việc trung tâm bao gồm một hệ thống vỏ não phía trước phân tán. Không gian làm việc này tích hợp thông tin từ các bộ xử lý vỏ não cục bộ và sau đó truyền nó đến tất cả các bộ xử lý cục bộ vỏ não trên quy mô toàn cầu, với việc phân phối toàn cầu tách biệt các quá trình có ý thức và vô thức. Các lý thuyết khác về ý thức cho rằng sự tích hợp có ý thức đạt được bởi các quá trình thần kinh khác. Ví dụ, lý thuyết tích hợp đuôi gai thần kinh (DIT) cho thấy sự tích hợp có ý thức xảy ra thông qua hiện tượng đồng bộ hóa tần số cao giữa các vùng vỏ não khác nhau, có thể liên quan đến các chức năng khác nhau bao gồm nhận thức, nhận thức hoặc lập kế hoạch vận động, tùy thuộc vào vùng vỏ não liên quan.
*Chú thích: Trong lý thuyết DIT (Hình 2), các nhà nghiên cứu tin rằng sự tích hợp có ý thức toàn cầu cũng phụ thuộc vào sự tích hợp cục bộ của các tế bào thần kinh hình chóp trong lớp thứ năm của vỏ não, một tế bào thần kinh kích thích lớn là trung tâm trong cả mạch thalamic-vỏ não và vỏ não. Có hai cấu trúc chính trong loại tế bào thần kinh này (Hình 2, hình trụ màu cam và đỏ) xử lý các loại thông tin hoàn toàn khác nhau: cấu trúc cơ bản (màu đỏ) xử lý thông tin cơ bản bên ngoài, trong khi cấu trúc đỉnh (màu cam) xử lý thông tin được tạo ra bên trong. Theo lý thuyết DIT, trong trạng thái ý thức, hai cấu trúc này được kết hợp với nhau, cho phép thông tin chảy qua các mạch đồi thị-vỏ não và vỏ não-vỏ não, do đó cho phép tích hợp thông tin và tạo ý thức trên toàn hệ thống. *
Điều quan trọng cần lưu ý là kiến trúc của LLM ngày nay và các hệ thống AI khác thiếu các tính năng mà các lý thuyết này nhấn mạnh: các LLM hiện tại không có tế bào thần kinh hình chóp lưỡng cấu trúc tương đương, cũng không có kiến trúc thalamic tập trung, không gian làm việc toàn cầu hoặc nhiều tính năng của các hệ thống kích thích tăng dần. Nói cách khác, các hệ thống AI hiện tại thiếu các tính năng não hiện đang được cộng đồng khoa học thần kinh tin rằng để củng cố việc tạo ra ý thức. Mặc dù não động vật có vú không phải là cấu trúc duy nhất có khả năng hỗ trợ sản xuất ý thức, bằng chứng từ sinh học thần kinh cho thấy sự hình thành ý thức của động vật có vú được xác định bởi các nguyên tắc cấu trúc rất cụ thể (tức là các kết nối đơn giản giữa các tế bào thần kinh tích hợp và kích thích). Về mặt cấu trúc địa hình, cấu trúc của các hệ thống AI hiện có cực kỳ đơn giản, đó là một trong những lý do tại sao chúng tôi không coi các hệ thống AI hiện có là nhận thức phi thường.
Vì vậy, liệu các mô hình AI trong tương lai cuối cùng có thể tích hợp quá trình "tích hợp" mà nhiều lý thuyết về ý thức coi là cốt lõi? Để đối phó với vấn đề này, khái niệm "tích hợp" được đề xuất bởi lý thuyết GNW cung cấp một cách tương đối đơn giản để thực hiện nó. Trên thực tế, một số hệ thống AI gần đây đã được tích hợp vào một cái gì đó giống như không gian làm việc toàn cầu được chia sẻ bởi bộ xử lý cục bộ. Vì quá trình tính toán truyền tải toàn cầu có thể được thực hiện trong một hệ thống AI, theo lý thuyết này, một hệ thống AI áp dụng phương pháp tính toán này sẽ chứa các thành phần cốt lõi của ý thức tiềm ẩn.
Tuy nhiên, như đã đề cập trước đó, không phải tất cả các lý thuyết về ý thức đều đồng ý rằng phương thức tích hợp này là chìa khóa để tạo ra ý thức. Ví dụ, lý thuyết thông tin tích hợp về ý thức lập luận rằng các hệ thống AI dựa trên phần mềm được triển khai trên một máy tính hiện đại điển hình không thể có ý thức vì các máy tính hiện đại không có kiến trúc phù hợp để đạt được khả năng lý luận nhân quả cần thiết để tích hợp đầy đủ thông tin. Do đó, chúng tôi sẽ xem xét khả năng thứ ba, đó là ý thức có thể đạt được về nguyên tắc, nhưng nó có thể cần phải vượt ra ngoài mức độ đặc hiệu tính toán hiện tại (và có lẽ trong tương lai) của các hệ thống AI. **
**Ý thức là một quá trình sinh học phức tạp **
Việc tạo ra ý thức không chỉ phụ thuộc vào kiến trúc của hệ thống. Ví dụ, khi chúng ta đang ngủ sâu hoặc gây mê, cấu trúc của hệ thống vỏ não không thay đổi, nhưng ý thức biến mất. Ngay cả trong giấc ngủ sâu, các phản ứng thần kinh cục bộ và hoạt động của vành đai gamma ở các khu vực cảm giác chính cũng tương tự như ở trạng thái ý thức. Điều này cho thấy ý thức dựa vào các quá trình thần kinh cụ thể, nhưng các quá trình thần kinh này khác nhau ở bộ não có ý thức và vô thức. **
Để làm sáng tỏ sự khác biệt chi tiết giữa xử lý có ý thức và vô thức, trước tiên chúng ta hãy quay trở lại lý thuyết tích hợp đuôi gai tế bào thần kinh (DIT). Lý thuyết DIT chứa một số sắc thái sinh học thần kinh liên quan đến các quá trình thần kinh được xử lý một cách có ý thức và vô thức. Lý thuyết DIT đề xuất rằng sự khác biệt chính giữa xử lý có ý thức và vô thức nằm ở sự tích hợp của hai cấu trúc ngăn của các tế bào hình chóp (Hình 2). Như đã đề cập trước đó, trong quá trình xử lý có ý thức, hai cấu trúc này tương tác với nhau, cho phép toàn bộ hệ thống vỏ não xử lý và tích hợp thông tin phức tạp. Tuy nhiên, ở trạng thái gây mê, các thuốc gây mê khác nhau dẫn đến sự tách rời chức năng giữa hai cấu trúc của tế bào thần kinh đốt sống. Nói cách khác, mặc dù các tế bào thần kinh đốt sống này còn nguyên vẹn về mặt giải phẫu và có thể kích thích tiềm năng hành động, khả năng tích hợp đuôi gai của chúng bị hạn chế nghiêm trọng về mặt sinh lý, tức là phản hồi từ trên xuống không thể ảnh hưởng đến quá trình xử lý. Các nghiên cứu đã chỉ ra rằng khớp nối đuôi gai này được điều khiển bởi các thụ thể metabotropic, tuy nhiên cấu trúc này thường bị bỏ qua trong các mô hình tính toán và mạng lưới thần kinh nhân tạo. Ngoài ra, các nghiên cứu đã chỉ ra rằng trong trường hợp này, các hạt nhân thalamic cao hơn kiểm soát hoạt động của thụ thể chuyển hóa này. Do đó, các quá trình sinh học thần kinh cụ thể có thể chịu trách nhiệm "bật" và "tắt" ý thức trong não. Điều này cho thấy chất lượng trải nghiệm trong não động vật có vú có mối quan hệ phức tạp với các quá trình cơ bản tạo ra ý thức. **
Mặc dù những lý thuyết này đủ thuyết phục, nhưng gần như chắc chắn rằng kiến thức này mờ nhạt so với sự phức tạp của các quá trình thần kinh phát sinh từ sự hiểu biết hoàn toàn về ý thức. Những giải thích hiện tại của chúng ta về ý thức dựa trên các lý thuyết như không gian làm việc toàn cầu, thông tin tích hợp, xử lý tuần hoàn, tích hợp đuôi gai, v.v., nhưng các quá trình sinh học mà ý thức thực sự phát sinh có thể phức tạp hơn nhiều so với hiện tại được hiểu bởi các lý thuyết này. Thậm chí hoàn toàn có khả năng các ý tưởng cấp độ tính toán trừu tượng hiện đang được sử dụng để xây dựng cuộc thảo luận về nghiên cứu ý thức có thể đã hoàn toàn không tính đến các chi tiết tính toán cần thiết để giải thích ý thức.
Nói cách khác, sinh học rất phức tạp và sự hiểu biết hiện tại của chúng ta về máy tính sinh học còn hạn chế (Hình 3), vì vậy có lẽ chúng ta thiếu các công cụ toán học và thực nghiệm phù hợp để hiểu ý thức. **
*Chú thích: Trong lý thuyết DIT (Hình 2), các nhà nghiên cứu tin rằng sự tích hợp có ý thức toàn cầu cũng phụ thuộc vào sự tích hợp cục bộ của các tế bào thần kinh hình chóp trong lớp thứ năm của vỏ não, một tế bào thần kinh kích thích lớn là trung tâm trong cả mạch thalamic-vỏ não và vỏ não. Có hai cấu trúc chính trong loại tế bào thần kinh này (Hình 2, hình trụ màu cam và đỏ) xử lý các loại thông tin hoàn toàn khác nhau: cấu trúc cơ bản (màu đỏ) xử lý thông tin cơ bản bên ngoài, trong khi cấu trúc đỉnh (màu cam) xử lý thông tin được tạo ra bên trong. Theo lý thuyết DIT, trong trạng thái ý thức, hai cấu trúc này được kết hợp với nhau, cho phép thông tin chảy qua các mạch đồi thị-vỏ não và vỏ não-vỏ não, do đó cho phép tích hợp thông tin và tạo ý thức trên toàn hệ thống. *
Để hiểu rõ hơn về sự phức tạp sinh học, điều quan trọng là phải nhấn mạnh rằng các quá trình sinh học được mô tả ở trên ở cấp độ tế bào và hệ thống phải xảy ra trong một sinh vật sống và không thể tách rời. Các sinh vật sống khác với máy móc và thuật toán AI ngày nay ở chỗ chúng có thể liên tục duy trì bản thân ở các cấp độ xử lý khác nhau. Ngoài ra, các hệ thống sống có lịch sử tiến hóa và phát triển nhiều mặt, và sự tồn tại của chúng phụ thuộc vào các hoạt động của chúng ở nhiều cấp độ tổ chức. Ý thức được liên kết phức tạp với việc tổ chức các hệ thống sống. Tuy nhiên, điều đáng chú ý là các máy tính ngày nay không có khả năng thể hiện sự phức tạp về tổ chức này của các hệ thống sống (tức là sự tương tác giữa các cấp độ khác nhau của hệ thống). Điều này cho thấy các thuật toán AI hiện đại không có bất kỳ ràng buộc nào ở cấp độ tổ chức và không thể hoạt động hiệu quả như một hệ thống sống. Điều này có nghĩa là miễn là AI dựa trên phần mềm, nó có thể không phù hợp để có ý thức và thông minh. **
Khái niệm phức tạp sinh học cũng có thể được thể hiện ở cấp độ tế bào. Một tế bào thần kinh sinh học không chỉ là một thực thể trừu tượng có thể được nắm bắt đầy đủ với một vài dòng mã. Ngược lại, các tế bào thần kinh sinh học có một tổ chức nhiều lớp và dựa vào các chuỗi hơn nữa của các quá trình sinh lý phức tạp trong các tế bào thần kinh. Lấy "chu trình Krebs", ví dụ, là cơ sở của hô hấp tế bào và là một quá trình quan trọng trong việc duy trì cân bằng nội môi tế bào. Hô hấp tế bào là một quá trình sinh học quan trọng cho phép các tế bào chuyển đổi năng lượng được lưu trữ trong các phân tử hữu cơ thành một dạng năng lượng mà các tế bào có thể sử dụng. Tuy nhiên, quá trình này không thể được "nén" vào phần mềm, vì các quá trình lý sinh như hô hấp tế bào cần phải dựa trên các phân tử vật lý thực. Tất nhiên, điều này không có nghĩa là ý thức cần một "chu kỳ Krebs", mà là nhấn mạnh rằng những thách thức tương tự có thể liên quan đến quá trình hiểu ý thức, tức là, có lẽ ý thức không thể tách rời khỏi cơ chế cơ bản. **
Tuy nhiên, chúng ta không hoàn toàn đồng ý với tuyên bố rằng ý thức hoàn toàn không thể được tạo ra bởi các hệ thống thông minh, nhưng chúng ta phải xem xét mối tương quan giữa ý thức và tổ chức sinh học phức tạp đằng sau sự sống, và các loại tính toán nắm bắt bản chất của ý thức có thể phức tạp hơn nhiều so với lý thuyết hiện tại của chúng ta hiểu (Hình 3). Hầu như không thể thực hiện "sinh thiết" ý thức và loại bỏ nó khỏi mô. Quan điểm này mâu thuẫn với nhiều lý thuyết hiện tại về ý thức, cho rằng ý thức có thể phát sinh ở cấp độ tính toán trừu tượng. Bây giờ, giả định này cần được cập nhật dưới ánh sáng của các hệ thống AI hiện đại: để hiểu đầy đủ ý thức, chúng ta không thể bỏ qua sự phụ thuộc lẫn nhau quy mô chéo và sự phức tạp của tổ chức được quan sát thấy trong các hệ thống sống. **
Mặc dù các hệ thống AI bắt chước các đối tác sinh học của chúng ở cấp độ điện toán mạng, nhưng trong các hệ thống này, tất cả các cấp độ khác của quá trình sinh học đã được trừu tượng hóa khỏi các quá trình có mối quan hệ nhân quả chặt chẽ với ý thức trong não, vì vậy các hệ thống AI hiện tại có thể có ý thức trừu tượng. Kết quả là, LLM và các hệ thống AI trong tương lai có thể bị mắc kẹt trong một dòng vô tận các tính năng ý thức mô phỏng, nhưng không có bất kỳ ý thức phi thường nào để nói đến. Nếu ý thức thực sự liên quan đến các cấp độ xử lý khác này, hoặc với sự tương tác của chúng giữa các quy mô khác nhau, thì chúng ta còn lâu mới có khả năng một cỗ máy tạo ra ý thức.
Tóm tắt
Ở đây, chúng tôi khám phá khả năng ý thức trong LLM và các hệ thống AI trong tương lai từ góc độ khoa học thần kinh. Hấp dẫn như LLM, họ không có ý thức và sẽ không có ý thức trong một khoảng thời gian ngắn hơn trong tương lai.
Đầu tiên, chúng tôi minh họa sự khác biệt lớn giữa môi trường của động vật có vú (một "phần nhỏ" của thế giới bên ngoài mà chúng có thể cảm nhận được) và môi trường rất nghèo nàn và hạn chế của LLM. Thứ hai, chúng tôi lập luận rằng cấu trúc liên kết của LLM, trong khi rất phức tạp, về mặt thực nghiệm rất khác với các chi tiết sinh học thần kinh của các mạch liên quan đến ý thức động vật có vú, và do đó không có lý do chính đáng để nghĩ rằng LLM có khả năng tạo ra ý thức hiện tượng (Hình 1). Vẫn chưa thể trừu tượng hóa ý thức khỏi sự phức tạp của tổ chức sinh học, vốn có trong các hệ thống sống, nhưng rõ ràng không tồn tại trong các hệ thống AI. Nhìn chung, ba điểm chính trên khiến các LLM không thể có ý thức ở dạng hiện tại. Chúng chỉ bắt chước các đặc điểm của giao tiếp ngôn ngữ tự nhiên của con người được sử dụng để mô tả sự phong phú của trải nghiệm có ý thức.
Thông qua bài viết này, chúng tôi hy vọng rằng các lập luận được trình bày sẽ có một số tác động và phản ánh tích cực (xem Câu hỏi chưa được giải quyết) và không chỉ đại diện cho một sự phản đối. Đầu tiên, các mối quan tâm đạo đức tiềm năng hiện tại về năng lực nhận thức của LLM mang tính giả thuyết hơn là thực tế. Ngoài ra, chúng tôi tin rằng sự hiểu biết sâu sắc hơn về sự tương đồng và khác biệt giữa LLM và cấu trúc liên kết não động vật có vú có thể thúc đẩy những tiến bộ trong học máy và khoa học thần kinh. Chúng tôi cũng hy vọng sẽ thúc đẩy cộng đồng học máy và khoa học thần kinh bằng cách bắt chước các đặc điểm của mô não và tìm hiểu cách các hệ thống phân tán đơn giản xử lý các luồng thông tin phức tạp. Vì những lý do này, chúng tôi lạc quan rằng sự hợp tác trong tương lai giữa các nhà nghiên cứu AI và các nhà thần kinh học có thể dẫn đến sự hiểu biết sâu sắc hơn về ý thức.
** Theo dõi chưa được giải quyết:**
Liên kết gốc