AI đã bước vào giai đoạn tiếp theo. Trong nhiều năm, hầu hết các hệ thống AI đều đưa ra các quyết định sáng suốt. Giờ đây, một loại hệ thống mới, tác nhân AI, sẽ thay mặt chúng ta đưa ra quyết định. Sự thay đổi này tạo ra cơ hội và đưa đến những hình thức rủi ro mới. Các đại lý không chỉ tạo ra đầu ra; họ hành động. Sự khác biệt đó mở rộng bề mặt tấn công vượt ra ngoài các tham số của mô hình đến cách các hệ thống tương tác, cách ủy quyền và cách thực thi các quyết định trong thời gian thực
Đây không phải là lý thuyết. Đó là sự thay đổi về mặt cấu trúc trong cách vận hành của các hệ thống hiện đại. Sự chặt chẽ trong thời gian xây dựng, nguyên lý cốt lõi của thực hành nhà cái uy tín bmktx mật tốt, vẫn có vấn đề. Nhưng đối với các tác nhân tự trị và bán tự động, các biện pháp kiểm soát cũng phải hoạt động tại thời điểm thực thi và tạo ra các bản ghi thời gian chạy hoàn chỉnh, có bằng chứng giả mạo để hỗ trợ kiểm tra, điều tra và ứng phó sự cố.
Tại JPMorganChase, hoạt động ở quy mô toàn cầu đã dạy cho chúng tôi một bài học đơn giản: điều chỉnh các biện pháp nhà cái uy tín bmktx vệ phù hợp với năng lực và rủi ro. Các tác nhân chỉ đọc, bị giới hạn nên có rào chắn nhẹ hơn. Các tác nhân kết hợp cái gọi là 'bộ ba gây chết người' (xử lý thông tin đầu vào không đáng tin cậy, truy cập dữ liệu nhạy cảm và quyền hành động bên ngoài) yêu cầu thực thi và giám sát mạnh mẽ, liên tục. Bán kính vụ nổ tiềm ẩn tăng lên khi các điều kiện này kết hợp và các biện pháp nhà cái uy tín bmktx vệ phải được điều chỉnh theo quy mô tương ứng.
Điều này đòi hỏi một điểm nhấn khác:
- Xóa ranh giới ủy quyền về những việc các hệ thống này được phép thực hiện.
- Những hạn chế về cách chúng tương tác với các dịch vụ và môi trường khác.
- Bản ghi có thể kiểm tra về các hành động được thực hiện trong quy trình làm việc tự động.
Thử thách không còn là đảm nhà cái uy tín bmktx an toàn cho các mô hình. Nó đang nhà cái uy tín bmktx vệ các tác nhân hoạt động trong môi trường năng động, được kết nối với nhau.
Tại sao điều này lại quan trọng vào lúc này
Hệ sinh thái công nghệ rộng lớn hơn đã có tính kết nối cao. Các tổ chức dựa vào nền tảng đám mây, API và dịch vụ của bên thứ ba để hoạt động trên quy mô lớn. Sự liên kết đó đã tạo ra hiệu quả nhưng cũng tập trung rủi ro. Chúng tôi đã thấy những thất bại trong cơ sở hạ tầng dùng chung và chuỗi cung ứng có thể gây ra tác động mang tính hệ thống như thế nào. Tác nhân AI xây dựng trực tiếp trên các mẫu tích hợp đó và trong nhiều trường hợp mở rộng chúng bằng cách đưa ra quyết định và thực thi tự động.
Đồng thời, việc triển khai các khả năng này đang được đẩy nhanh. Giống như những thay đổi công nghệ trước đây, có nguy cơ là khả năng tiến bộ nhanh hơn các biện pháp nhà cái uy tín bmktx mật cần thiết để hỗ trợ nó.
Việc giải quyết vấn đề này đòi hỏi phải vượt ra ngoài các biện pháp kiểm soát tĩnh và hướng tới việc quản lý liên tục trong thời gian chạy đối với hành vi của tổng đài viên. Các biện pháp kiểm soát phải hoạt động tại thời điểm thực thi, tạo ra bằng chứng về sự ràng buộc, trách nhiệm giải trình và ngăn chặn, sao cho an ninh là mục tiêu hàng đầu chứ không phải là một gợi ý.
Nơi chúng tôi nhìn thấy thách thức
Khi các tác nhân AI trở nên có năng lực hơn, các rủi ro liên quan có thể xuất hiện trong các lĩnh vực phổ biến nhưng quan trọng. Trong thực tế, chúng tôi thấy những thách thức này xuất hiện trên các lĩnh vực sau:
Phần mềm
Các tác nhân AI ngày càng dựa vào các lớp điều phối, công cụ và tiện ích tích hợp bên ngoài để thực hiện nhiệm vụ. Điều đó tạo ra bề mặt tấn công rộng hơn và năng động hơn so với các ứng dụng truyền thống.
Rủi ro xuất hiện từ cách các tác nhân sắp xếp các hành động, gọi công cụ và tương tác với các dịch vụ bên ngoài. Ngay cả khi các hành động riêng lẻ được ủy quyền, cách kết hợp chúng có thể tạo ra những kết quả ngoài ý muốn.
Việc nhà cái uy tín bmktx mật lớp này yêu cầu các biện pháp kiểm soát mạnh mẽ hơn về hành vi thực thi, tích hợp và thời gian chạy chứ không chỉ mô hình cơ bản.
Danh tính và ủy quyền
Tác nhân AI hoạt động bằng quyền được ủy quyền. Họ truy cập các dịch vụ, gọi API và thực hiện các hành động thay mặt cho người dùng hoặc các hệ thống khác. Điều đó làm cho danh tính trở thành nền tảng.
Các tổ chức cần có ranh giới rõ ràng về những gì nhân viên được phép làm, cách cấp quyền và cách các hành động gắn liền với danh tính có trách nhiệm. Khi các tác nhân tương tác với nhau, việc thiết lập niềm tin giữa các hệ thống đó cũng trở nên quan trọng như xác thực người dùng truyền thống.
Nếu không có các biện pháp kiểm soát danh tính và ủy quyền mạnh mẽ, một tác nhân bị xâm nhập có thể lan truyền rủi ro trên nhiều môi trường.
Dữ liệu
Tác nhân AI làm mờ ranh giới giữa dữ liệu và hướng dẫn. Đầu vào có thể ảnh hưởng đến hành vi, không chỉ đầu ra.
Điều này tạo ra những rủi ro mới về cách nhập, diễn giải và sử dụng lại dữ liệu, bao gồm cả khả năng thao túng thông qua nội dung bên ngoài, bối cảnh cố định hoặc bộ nhớ hệ thống.
Đồng thời, khi các tác nhân tương tác giữa các môi trường, việc duy trì sự rõ ràng về nguồn gốc của dữ liệu, cách dữ liệu được sử dụng và cách dữ liệu đó ảnh hưởng đến hành động trở nên khó khăn hơn.
Để giải quyết những mối lo ngại này, dữ liệu cần phải "nhận biết chính sách" trong thời gian chạy. Điều này yêu cầu dữ liệu phải di chuyển với các nhãn mô tả dữ liệu đó là gì, mức độ nhạy cảm và mục đích sử dụng dữ liệu đó. Những quy tắc đó cần phải được thực thi ở bất cứ nơi nào dữ liệu di chuyển, tạo ra dấu vết có thể kiểm tra được. Các nhà cung cấp và đối tác cần phải tuân theo cùng một tiêu chuẩn với khả năng hiển thị rõ ràng về cách sử dụng dữ liệu và khả năng loại bỏ dữ liệu đó khỏi quá trình đào tạo nếu cần. Cách tiếp cận này duy trì các biện pháp kiểm soát hoạt động phù hợp với nghĩa vụ của doanh nghiệp và khách hàng trong toàn bộ vòng đời.
Con đường thực tế phía trước
Các tổ chức cần nhiều hơn những nguyên tắc cấp cao. Họ cần xem những nguyên tắc đó áp dụng như thế nào trong các hệ thống và công nghệ có sẵn trên thị trường trong thế giới thực.
Cấu trúc tham khảo và ví dụ triển khai có thể minh họa cách:
- Quản lý tương tác giữa các tác nhân với hệ thống và giữa các tác nhân với nhau.
- Thực thi ủy quyền khi tổng đài viên hành động trên các dịch vụ.
- Theo dõi hành vi trong quy trình làm việc tự động.
- Và duy trì quyền kiểm soát trong môi trường nơi các tổng đài viên hoạt động liên tục.
Khuôn khổ an ninh mạng đã xác định những kết quả mà tổ chức cần đạt được, chẳng hạn như quản lý danh tính, kiểm soát quyền truy cập, giám sát và khả năng phục hồi. Điều đang thay đổi là cách thực hiện những kết quả đó.
Khi hành động được thực hiện bởi các đại lý thay vì trực tiếp bởi mọi người, tổ chức cần đảm nhà cái uy tín bmktx:
- Tương tác giữa máy với máy được xác thực và ủy quyền hợp lệ.
- Các hành động do tổng đài viên thực hiện có thể theo dõi và kiểm tra được.
- Các hoạt động có rủi ro cao hơn phải được nhà cái uy tín bmktx vệ chặt chẽ hơn.
- Và các nhân viên có thể bị hạn chế hoặc ngừng hoạt động khi hành vi không như mong đợi.
Đây không phải là mục tiêu mới. Chúng là những điều kiện hoạt động mới cho các biện pháp kiểm soát đã được thiết lập.
Nhìn về phía trước
Tác nhân AI tiếp tục phát triển và các hệ thống có thể hoạt động trên nhiều môi trường sẽ trở nên phổ biến hơn.
nhà cái uy tín bmktx mật phải phát triển cùng với sự thay đổi đó. Đây không phải là về việc làm chậm tiến độ. Đó là việc đảm nhà cái uy tín bmktx rằng tiến bộ được xây dựng trên nền tảng có thể mở rộng quy mô một cách an toàn giữa các công ty, các ngành và hệ thống kinh tế toàn cầu.
Con đường phía trước rất rõ ràng: xây dựng dựa trên những gì hiệu quả, tập trung vào triển khai thực tế và sớm cùng nhau giải quyết các thách thức.
