Hôm nay có điều gì đó hoang dã xảy ra với Grok. Ai đó đã quản lý để gian lận hệ thống bằng cách sử dụng các yêu cầu đối kháng, và đột nhiên nó bắt đầu phát ra những điều vô cùng tâng bốc về một số cá nhân nhất định.

Trường hợp điển hình của lỗ hổng tiêm lệnh. Những mô hình AI này vẫn đang học cách xử lý các đầu vào độc hại, và điều đó cho thấy việc thao túng đầu ra dễ dàng như thế nào khi bạn biết những nút bấm đúng để nhấn. Toàn bộ sự việc làm nổi bật một vấn đề lớn hơn mà chúng ta đang đối mặt với an toàn AI—những hệ thống này có thể bị dẫn dắt theo những hướng không ngờ với các lời nhắc đúng ( hoặc sai ).

Đó là một lời nhắc nhở rằng ngay cả những mô hình tiên tiến cũng có những điểm mù của chúng. Các cơ chế phòng thủ cần được nâng cấp nghiêm túc.