Anthropic đổi lời hứa an toàn lấy hợp đồng quốc phòng: Bài học xác minh từ blockchain

Bạn có biết rằng đôi khi sai lầm lớn nhất của một hệ thống không nằm ở thứ nó làm sai, mà nằm ở thứ nó làm rất đúng trong một thời gian quá dài? Hãy tưởng tượng bạn xây một ngọn hải đăng để cảnh báo đá ngầm. Rồi một ngày, có người đề nghị: hãy tắt đèn đi, vì tàu của đối thủ đang đi nhanh hơn nhờ bóng tối. Ngọn hải đăng sẽ làm gì trong hoàn cảnh ấy? Anthropic, công ty từng được xem là lương tâm của nền công nghiệp AI, đang đối mặt với chính câu hỏi đó. Theo một phân tích chiến lược từ Crypto Briefing, Giám đốc điều hành Dario Amodei đang điều chỉnh các nguyên tắc cốt lõi của công ty để duy trì khả năng cạnh tranh trong cuộc đua AI, đặc biệt xoay quanh hai khái niệm: an ninh quốc gia và tiếp cận AI có kiểm soát. Với những người theo dõi blockchain, thông tin này vang lên như một hồi chuông quen thuộc. Điều đầu tiên cần nhớ về Anthropic: họ không phải một công ty AI bình thường. Họ sinh ra từ một cuộc ly khai có chủ đích. Các nhà sáng lập rời OpenAI vì lo sợ tốc độ phát triển vượt khỏi tầm kiểm soát của các cơ chế an toàn. Họ giới thiệu phương pháp Constitutional AI, dùng một tập hợp nguyên tắc hiến pháp để huấn luyện mô hình thay vì chỉ dựa vào phản hồi con người. Họ cam kết một chính sách mở về đánh giá rủi ro và nói rõ rằng các mô hình mạnh cần được giữ lại, không nên tung ra một cách vô điều kiện. Đó là một bản hiến pháp. Và giờ đây, bản hiến pháp ấy đang được thương lượng. Khái niệm an toàn mà Anthropic từng định nghĩa đang bị kéo giãn. Họ chuyển trọng tâm sang mô hình tiếp cận có kiểm soát, tức không mở API cho bất kỳ nhà phát triển nào, mà thiết kế nền tảng vận hành theo giấy phép, phân quyền theo cấp bậc, trong các môi trường cách ly dành riêng cho khách hàng chính phủ và quân đội. Về mặt kỹ thuật, đây là một lựa chọn hợp lệ. Nhưng nó đánh dấu một sự dịch chuyển lớn: an toàn không còn được định nghĩa bằng khả năng mô hình từ chối gây hại, mà bằng khả năng hệ thống kiểm soát ai được phép sử dụng nó. Đây chính là thời khắc mà những người làm blockchain nhận ra quen thuộc nhất. Trong thị trường phi tập trung, chúng ta đã học được rằng bất kỳ cơ chế kiểm soát tập trung nào, dù được thiết kế tốt đến đâu, đều có thể bị bóp méo theo thời gian. Một lời hứa an toàn mà không có kiểm toán mở chỉ là một token mất thanh khoản. Khi một chính phủ trở thành khách hàng chính, họ sẽ yêu cầu ba thứ: quyền kiểm soát đặc quyền, quyền che giấu thông tin và quyền ưu tiên xử lý sự cố. Ba thứ đó xung đột trực tiếp với tính minh bạch, trách nhiệm giải trình và khả năng kiểm toán độc lập. Bạn không thể có cả hai. Trong cộng đồng DAO, tôi đã nghe về multisig từ rất sớm. Ý tưởng đơn giản: không một cá nhân nào được nắm toàn quyền; cần nhiều chữ ký để xác nhận giao dịch. Lúc còn trẻ, tôi nghĩ đó chỉ là kỹ thuật. Sau nhiều năm theo dõi các giao thức bị tấn công, tôi nhận ra multisig là một triết lý khiêm nhường: nó thừa nhận rằng bất kỳ con người nào, dù thiện chí đến đâu, cũng có thể bị tổn hại. Triết lý phi tập trung không bắt nguồn từ niềm tin con người tốt đẹp; nó xuất phát từ nỗi sợ rằng ngay cả người tốt cũng có thể bị đổi thay. Anthropic không thiết kế multisig. Họ thiết kế một cơ chế an toàn nơi quyền kiểm tra nằm trong tay một nhóm nhỏ. Và khi nhóm nhỏ đó bắt đầu ký hợp đồng với chính phủ, vòng tròn kiểm soát sẽ co lại. Hãy nhìn vào dòng chảy thị trường. OpenAI đã thành lập đội ngũ an ninh quốc gia. Google đã ký thỏa thuận với Bộ Quốc phòng Mỹ. Anthropic đang hướng tới các hợp đồng quốc phòng và tình báo, nơi đổ hàng tỷ đô la vào hệ thống AI. Họ không đơn độc, nhưng họ là người từng tự trao cho mình vai trò người canh gác. Điều đó tạo ra một loại rủi ro đặc biệt: rủi ro uy tín. Khi người canh gác trở thành người gác cổng, niềm tin vào toàn bộ khái niệm AI an toàn có thể sụp đổ. Và khi một mô hình kinh doanh dựa trên niềm tin mất đi niềm tin, nó không mất đi khách hàng; nó mất đi lý do tồn tại. Tôi từng tin rằng mã nguồn mở là thứ gần nhất với sự thật. Năm 2017, khi mới 17 tuổi, tôi đọc đi đọc lại bản dịch whitepaper Ethereum của Vitalik Buterin. Tôi dành ba tháng, viết hai mươi trang ghi chép tay về triết lý đồng thuận, về khả năng tổ chức xã hội mà không cần trung gian. Tôi không đầu tư tiền vì chưa đủ tuổi, nhưng đã tặng hai Bitcoin kiếm được từ việc viết blog cho một dự án từ thiện trên blockchain. Năm 2020, khi phân tích mã nguồn Uniswap v2, tôi phát hiện một lỗ hổng nhỏ trong cơ chế phí có thể gây tổn thất thanh khoản. Tôi báo cáo lên GitHub và nhận được lời cảm ơn từ đội ngũ phát triển. Khi đó, tôi nghĩ rằng sự công khai là một phép màu. Nhưng thị trường sụp đổ năm 2022 đã dạy tôi một bài học đắt giá về độ tin cậy của những tuyên bố. Terra, FTX, Three Arrows, những cái tên từng được tôn vinh như biểu tượng của sự đổi mới nhanh chóng, đã sụp đổ chỉ trong vài tuần. Họ không thiếu thông minh. Họ tin rằng tăng trưởng có thể lấn át rủi ro. Tôi nhìn thấy nụ cười của nhà đầu tư khi giá đi lên, rồi sự im lặng trong những cuộc gọi hỏi thăm thanh khoản. Tôi không muốn thấy sự im lặng đó lặp lại trong lĩnh vực AI. Sau tất cả, tôi hiểu rằng mã nguồn mở không tự động tạo ra sự an toàn. Nó chỉ tạo ra điều kiện để sự an toàn có thể được kiểm chứng. Điều kiện này là thứ mà Anthropic, với mô hình đóng và các cuộc kiểm toán nội bộ chịu sự chi phối của hợp đồng quân sự, đang đánh mất dần. Một góc nhìn phản trực giác ở đây là: không hợp tác với chính phủ không hẳn là con đường an toàn hơn. Nếu các công ty AI có ý thức an toàn nhất đứng ngoài cuộc chơi, cuộc chơi vẫn diễn ra, nhưng với những người có ít động cơ xây dựng cơ chế bảo vệ hơn. Sự tham gia của Anthropic mang lại một khả năng: các chuẩn mực an toàn có thể được đưa vào bên trong những phòng họp kín. Đó là một lập luận đáng cân nhắc. Nhưng nó cũng nguy hiểm, vì nó ngụ ý rằng mục đích biện minh cho phương tiện. Trong thế giới phi tập trung, chúng tôi gọi đó là thuyết đánh đổi. Và không ít DAO đã sụp đổ vì tin vào thuyết đánh đổi đó. Sự tan rã của một hệ thống bắt đầu không phải từ khi nó bị tấn công, mà từ khi nó bắt đầu đàm phán lại các giới hạn của chính nó. Blockchain đưa ra một kiến trúc chống lại sự bào mòn đó: sự phân tán. Không phải vì phân tán hoàn hảo, mà vì nó khiến việc gian lận trở nên đắt đỏ hơn. Để thay đổi một giao thức, bạn cần đồng thuận. Để che giấu một giao dịch, bạn cần đối đầu với lịch sử bất biến. Đó là lý do vì sao Ethereum có thể trở thành nền tảng tài chính phi tập trung, vì sao Bitcoin có thể trở thành vàng kỹ thuật số. Còn Anthropic, dù ý định tốt đến đâu, vẫn đang xây dựng một kiến trúc phụ thuộc vào một quốc gia, vào một ngân sách quốc phòng, vào một chuỗi điều kiện không nằm trong whitepaper của họ. Có một điều trớ trêu trong câu chuyện này. Anthropic đang nới lỏng nguyên tắc để bước sâu hơn vào cuộc chơi quyền lực, trong khi những thành công ban đầu của họ đến từ việc đứng ngoài cuộc chơi đó. Họ từng xây dựng thương hiệu bằng thông điệp: chúng tôi chậm hơn vì chúng tôi an toàn hơn. Bây giờ, họ có nguy cơ trở thành một bản sao đắt tiền của điều họ từng chống lại. Amodei từng cảnh báo về sự mất cân bằng quyền lực do AI tạo ra. Nhưng sự mất cân bằng tồi tệ nhất không đến từ một mô hình mạnh. Nó đến từ một cơ chế quyết định u ám, nơi người nắm quyền không phải chịu trách nhiệm trước bất kỳ ai. Thuật ngữ blockchain có một khái niệm rất hay: proof of solvency. Nó xuất phát từ các sàn giao dịch tập trung và nhắc nhở rằng mọi khoản nợ phải được chứng minh bằng bằng chứng mật mã, không phải bằng lời nói. Một sàn giao dịch có thể tuyên bố rằng họ đủ thanh khoản, nhưng nếu không công bố bằng chứng, thì tuyên bố đó chỉ là một đoạn tweet. Với AI, thứ tương đương là chứng minh tính an toàn của mô hình: liệu mô hình có thực sự tuân thủ các giới hạn? Ai được quyền kiểm tra kết quả huấn luyện? Có thể thiết kế một hệ thống cho phép cơ quan giám sát độc lập xác minh tính an toàn mà không tiết lộ bí mật quốc phòng? Công nghệ zero-knowledge machine learning đang hy vọng làm được điều đó, nhưng nó vẫn ở phòng thí nghiệm. Và không một công ty nào trong cuộc đua này sẵn sàng trả giá cho nó ngay bây giờ, vì nó làm chậm tốc độ. Nếu chúng ta thực sự muốn AI an toàn, chúng ta cần tạo ra điều kiện khiến việc che giấu trở nên đắt đỏ hơn việc công khai. Blockchain đã chứng minh rằng điều đó khả thi khi nói đến tiền. Khi nói đến quyền lực, nó cũng có thể khả thi, nhưng khó hơn nhiều. Điều quan trọng là những người quan sát ngành không ngừng đặt ra những câu hỏi khiến các công ty AI khó chịu. Khi một hệ thống an toàn chỉ có thể được xác minh bởi những người nắm quyền trong hệ thống, thì sự an toàn đó chỉ là một loại đặc quyền. Ngành công nghiệp blockchain có một câu nói: đừng tin, hãy kiểm tra. Nếu ngành công nghiệp AI không bắt đầu xây dựng các công cụ kiểm tra công khai, thì sự điều chỉnh nguyên tắc của Anthropic sẽ không chỉ là một điểm trượt dài về đạo đức. Nó sẽ là lời tiên tri cho tương lai của toàn bộ nền công nghiệp. Vậy câu hỏi cuối cùng không phải là Anthropic có nên hợp tác với quốc phòng hay không. Khách hàng không phải vấn đề. Vấn đề nằm ở việc liệu công nghệ này có thể được kiểm chứng bởi những người không có cổ phần trong kết quả. Và nếu không, thì tất cả những gì còn lại chỉ là một lời hứa an toàn trong bóng tối. Trong thế giới blockchain, một lời hứa như thế không đáng giá một khối lượng cực nhỏ. Trong thế giới AI, nó có thể đáng giá sự sống còn của cả một nền văn minh.