Anthropic vừa phát hiện ra một điều đặc biệt bên trong các mô hình Claude mà không ai thiết kế hay dự đoán trước. Một cấu trúc nội bộ có tên gọi là “J-space” dường như hoạt động như một không gian làm việc nhận thức được chia sẻ giữa các thành phần bên trong mô hình.
Nghiên cứu công bố ngày 06/07/2024 đánh dấu một bước tiến quan trọng trong việc hiểu rõ hơn những gì thực sự xảy ra bên trong các mô hình ngôn ngữ lớn.
J-space trong Claude thực chất là gì?
J-space là một khu vực bên trong Claude, nơi AI này tập hợp và chia sẻ những thông tin quan trọng cho toàn bộ mô hình. Có thể hình dung J-space giống như một chiếc bảng trắng chung bên trong AI.
Khi Claude trả lời một câu hỏi, giải đố hay thực hiện một hướng dẫn, những chi tiết chính sẽ xuất hiện ở không gian chung này để các phần khác nhau của mô hình có thể sử dụng.
Anthropic phát hiện ra J-space nhờ một công cụ nghiên cứu gọi là “J-lens”. Công cụ này giúp các nhà nghiên cứu quan sát cách thông tin di chuyển bên trong Claude khi thực hiện một nhiệm vụ. Kết quả cho thấy J-space tự xuất hiện trong quá trình huấn luyện, chứ Anthropic không chủ động thiết kế nó.
Theo dõi chúng tôi trên X để cập nhật các tin tức mới nhất ngay khi chúng diễn ra.
Ý tưởng này khá giống với một lý thuyết trong khoa học thần kinh gọi là “global workspace”.
Ở con người, lý thuyết này mô tả cách não bộ giúp các quá trình tâm trí khác nhau tiếp cận cùng một thông tin quan trọng cùng lúc. Ví dụ, khi bạn nghe một câu hỏi, nhớ lại một thông tin và quyết định trả lời như thế nào, những phần thông tin đó cần được tập hợp lại.
Claude cũng hoạt động tương tự. Anthropic phát hiện Claude có thể mô tả những gì đang có trong J-space nếu được hỏi, đồng thời cũng có thể điều chỉnh nội dung trong J-space theo hướng dẫn của người dùng.
Đặc biệt hơn, khi các nhà nghiên cứu tác động trực tiếp lên J-space, câu trả lời và hiệu suất thực hiện nhiệm vụ của Claude cũng thay đổi theo.
Tại sao phát hiện này quan trọng với an toàn và khả năng giải thích AI
Phát hiện này có ý nghĩa lớn đối với vấn đề an toàn AI. Nếu các nhà nghiên cứu có thể giám sát hoạt động của J-space, họ sẽ dễ dàng phát hiện ra động cơ tiềm ẩn sau hành vi của mô hình. Điều này giúp nâng cao khả năng phát hiện khi có sự cố xảy ra.
Điều này còn giúp phát hiện các cuộc tấn công. Theo dõi J-space có thể phát hiện những lúc mô hình tiếp nhận những prompt độc hại nhằm chiếm quyền kiểm soát đầu ra. Không chỉ vậy, việc có cái nhìn dù chỉ một phần về lớp xử lý “có ý thức” này cũng đã là bước tiến quan trọng đối với ngành nghiên cứu AI.
Mặc dù vậy, phạm vi tác động của J-space vẫn còn hạn chế. Phần lớn quá trình xử lý thông tin của Claude diễn ra bên ngoài khu vực J-space này.
Dù vậy, Anthropic đã chia sẻ công cụ J-lens mã nguồn mở và bản demo Neuronpedia, mời cộng đồng nghiên cứu rộng lớn hơn cùng thử nghiệm và xác thực kết quả này.
Đăng ký kênh YouTube của chúng tôi để xem các nhà lãnh đạo và nhà báo chia sẻ phân tích chuyên sâu.
Nghiên cứu này là sự tiếp nối của quá trình tìm hiểu lâu dài. Từ tháng 10/2025, Anthropic đã công bố báo cáo về sự nhận thức có tính nội tại xuất hiện trong mô hình. Đến tháng 04/2025, công ty cũng triển khai các sáng kiến về “phúc lợi mô hình”, liên tục khám phá những gì xảy ra bên trong các hệ thống trí tuệ nhân tạo của mình.
Dù vậy, có một lưu ý quan trọng. Anthropic nhấn mạnh rằng nghiên cứu này không chứng minh Claude có ý thức hay trải nghiệm chủ quan. Tài liệu chỉ sử dụng cụm từ “thông tin có thể tiếp cận một cách có ý thức”, mượn ngôn ngữ khoa học thần kinh mà không khẳng định sự tồn tại của ý thức thật sự trong mô hình này.
