Mô Hình User Alignment Critic
Công ty cho biết họ đang sử dụng sự trợ giúp của một số mô hình để kiểm soát các hành động agent. Google cho biết họ đã xây dựng User Alignment Critic sử dụng Gemini để xem xét kỹ lưỡng các mục hành động được xây dựng bởi mô hình planner cho một nhiệm vụ cụ thể.
Nếu mô hình critic cho rằng các nhiệm vụ được lên kế hoạch không phục vụ mục tiêu của người dùng, nó sẽ yêu cầu mô hình planner suy nghĩ lại chiến lược. Google lưu ý rằng mô hình critic chỉ nhìn thấy metadata của hành động được đề xuất chứ không phải nội dung web thực tế.
Image Credits:Google
Hơn nữa, để ngăn các agent truy cập vào các trang web không được phép hoặc không đáng tin cậy, Google đang sử dụng Agent Origin Sets, hạn chế mô hình truy cập vào các nguồn chỉ đọc và các nguồn có thể đọc-ghi.
Nguồn chỉ đọc là dữ liệu mà Gemini được phép tiêu thụ nội dung từ đó. Ví dụ, trên một trang web mua sắm, các danh sách sản phẩm có liên quan đến nhiệm vụ, nhưng quảng cáo banner thì không. Tương tự, Google cho biết agent chỉ được phép nhấp hoặc gõ trên các iframe nhất định của một trang.
"Sự phân định này thực thi rằng chỉ dữ liệu từ một tập hợp nguồn hạn chế mới có sẵn cho agent, và dữ liệu này chỉ có thể được chuyển đến các nguồn có thể ghi. Điều này giới hạn vector mối đe dọa của việc rò rỉ dữ liệu cross-origin. Điều này cũng cung cấp cho trình duyệt khả năng thực thi một số sự tách biệt đó, chẳng hạn như không gửi đến mô hình dữ liệu nằm ngoài tập hợp có thể đọc," công ty cho biết trong một bài đăng blog.
Google cũng đang kiểm soát điều hướng trang bằng cách điều tra URL thông qua một mô hình quan sát khác. Điều này có thể ngăn chặn điều hướng đến các URL có hại được tạo ra bởi mô hình, công ty cho biết.
Bên cạnh đó, Google cũng đang trao quyền kiểm soát cho người dùng đối với các nhiệm vụ nhạy cảm. Ví dụ, khi một agent cố gắng điều hướng đến một trang web nhạy cảm với thông tin như ngân hàng hoặc dữ liệu y tế của bạn, trước tiên nó sẽ hỏi người dùng.
Đối với các trang web yêu cầu đăng nhập, nó sẽ xin phép người dùng để cho phép Chrome sử dụng trình quản lý mật khẩu. Google cho biết mô hình của agent không tiếp xúc với dữ liệu mật khẩu.
Việc Google đầu tư mạnh mẽ vào bảo mật cho các tính năng agent của Chrome cho thấy tầm quan trọng của vấn đề này trong kỷ nguyên AI. Khi các trình duyệt ngày càng thông minh và có thể thực hiện nhiều hành động phức tạp hơn thay mặt người dùng, việc đảm bảo an toàn và bảo mật trở thành ưu tiên hàng đầu.
Các biện pháp bảo mật nhiều lớp mà Google triển khai - từ mô hình critic đến kiểm soát truy cập và yêu cầu sự đồng ý của người dùng - có thể trở thành tiêu chuẩn cho ngành công nghiệp trình duyệt trong tương lai.
Điều này cũng phản ánh sự cân bằng tinh tế giữa việc cung cấp trải nghiệm người dùng thuận tiện và duy trì mức độ bảo mật cao. Khi các tính năng agent trở nên phổ biến hơn, người dùng sẽ cần hiểu rõ về cách thức hoạt động và các rủi ro tiềm ẩn để có thể sử dụng một cách an toàn và hiệu quả.
