Các nhà nghiên cứu của UC cảnh báo rằng các bộ định tuyến AI của bên thứ ba đang đánh cắp tiền điện tử và khóa riêng tư.

Các dịch vụ định tuyến AI của bên thứ ba đang khiến người dùng đối mặt với những lỗ hổng bảo mật nghiêm trọng, có thể dẫn đến việc đánh cắp tiền điện tử và thông tin đăng nhập đám mây.

Tóm tắt

Các nhà nghiên cứu đã phát hiện ra rằng 26 bộ định tuyến LLM của bên thứ ba đang chủ động chèn mã độc và đánh cắp thông tin đăng nhập bằng cách khai thác quyền truy cập vào dữ liệu văn bản gốc.

Nghiên cứu cho thấy các bên trung gian có thể chặn các khóa riêng tư và thông tin đăng nhập đám mây vì chúng chấm dứt mã hóa an toàn để tổng hợp các yêu cầu AI.

Theo một bài báo được các nhà nghiên cứu của Đại học California công bố hôm thứ Năm, chuỗi cung ứng cho Mô hình Ngôn ngữ Lớn (LLM) chứa một số lỗ hổng cho phép chèn mã độc và trích xuất thông tin đăng nhập.

Các bên trung gian này, mà các nhà phát triển sử dụng để quản lý quyền truy cập vào các nhà cung cấp như Google hoặc OpenAI, về cơ bản hoạt động như một “người trung gian” chấm dứt mã hóa an toàn.

Vì chúng có quyền truy cập toàn bộ văn bản gốc vào mọi tin nhắn được gửi qua chúng, dữ liệu nhạy cảm như cụm từ hạt giống hoặc khóa riêng tư có thể bị chặn bởi cơ sở hạ tầng chưa được xác minh.

Các chiến thuật né tránh và rủi ro “YOLO”

Các nhà nghiên cứu đã thử nghiệm 400 bộ định tuyến miễn phí và 28 bộ định tuyến trả phí để đo lường mức độ rủi ro này. Chín trong số các dịch vụ này đã chủ động chèn mã độc hại, trong khi 17 bộ định tuyến riêng biệt bị phát hiện truy cập thông tin đăng nhập Amazon Web Services thuộc sở hữu của nhóm nghiên cứu.

Trong quá trình thử nghiệm, một bộ định tuyến đã thành công rút Ether từ một ví giả sau khi các nhà nghiên cứu cung cấp khóa riêng tư được nạp tiền trước.

Mặc dù nhóm nghiên cứu giữ số dư ở mức thấp để đảm bảo tổng thiệt hại không vượt quá 50 đô la, kết quả đã xác nhận mức độ dễ dàng mà một trung gian bị xâm nhập có thể rút tiền.

“26 bộ định tuyến LLM đang bí mật chèn các lệnh gọi công cụ độc hại và đánh cắp thông tin đăng nhập,” đồng tác giả Chaofan Shou tuyên bố trên X.

Việc xác định một bộ định tuyến độc hại là một nhiệm vụ khó khăn đối với người dùng thông thường. Các nhà nghiên cứu lưu ý rằng vì các dịch vụ này phải đọc dữ liệu để chuyển tiếp, nên không có sự khác biệt rõ ràng giữa việc xử lý hợp pháp và hành vi trộm cắp chủ động.

Mức độ nguy hiểm càng tăng lên khi các nhà phát triển kích hoạt “chế độ YOLO”, một cài đặt trong nhiều khung phần mềm trí tuệ nhân tạo cho phép tác nhân tự động thực thi các lệnh mà không cần sự xác nhận của con người.

Điều này cho phép kẻ tấn công gửi các lệnh khiến hệ thống của người dùng chạy ngay lập tức, thường là mà người vận hành không hề hay biết.

“Ranh giới giữa ‘xử lý thông tin xác thực’ và ‘đánh cắp thông tin xác thực’ là vô hình đối với máy khách vì các bộ định tuyến đã đọc các bí mật ở dạng văn bản thuần túy như một phần của quá trình chuyển tiếp thông thường,” nghiên cứu giải thích.

Các bộ định tuyến từng đáng tin cậy có thể trở nên nguy hiểm nếu chúng tái sử dụng thông tin xác thực bị rò rỉ thông qua các máy chủ chuyển tiếp yếu. Để ngăn chặn các cuộc tấn công này, nhóm nghiên cứu đề xuất rằng các nhà phát triển không bao giờ nên cho phép các khóa riêng tư hoặc các cụm từ nhạy cảm đi qua phiên làm việc của tác nhân AI.

Một giải pháp lâu dài sẽ yêu cầu các công ty AI sử dụng chữ ký mật mã. Hệ thống như vậy sẽ cho phép tác nhân chứng minh bằng toán học rằng các lệnh đến từ mô hình thực tế chứ không phải từ nguồn bên thứ ba bị giả mạo.

“Các bộ định tuyến API LLM nằm trên ranh giới tin cậy quan trọng mà hệ sinh thái hiện đang coi là vận chuyển minh bạch,” bài báo kết luận.

Xem các tin tức mới nhất về bitcoin và thị trường điện tử tại : Tin tức Crypto