AI đang thay đổi an ninh mạng, nhưng khi nó thiên vị, nó nguy hiểm
Các thuật toán bị lỗi, dữ liệu sai lệch và cộng tác không chính xác có thể khiến các biện pháp bảo mật của công ty bạn gặp rủi ro. Đây là cách xác định vấn đề trước khi xảy ra thảm họa.
Xu hướng tồn tại ở khắp mọi nơi. Nhưng thật không dễ dàng để phát hiện ra chúng trong lĩnh vực công nghệ, vốn sôi sục với những thứ và số không. Trong công việc của tôi với tư cách là phó chủ tịch tại IBM Security, khi AI ngày càng có cơ sở, các nhà lãnh đạo doanh nghiệp thường hỏi tôi làm thế nào để đối phó với những thành kiến có thể không rõ ràng trong kết quả của thuật toán.
Chúng ta đã thấy sự thiên vị không phù hợp và ngoài ý muốn xuất hiện từ việc sử dụng AI của các ngành công nghiệp khác nhau, bao gồm cả tuyển dụng và cho vay thế chấp . Trong những trường hợp đó, kết quả không hoàn hảo là hiển nhiên khi sự thiên vị được phản ánh theo những cách liên quan đến các đặc điểm khác biệt về bản sắc của chúng ta: giới tính, chủng tộc, tuổi tác. Nhưng tôi đã dành rất nhiều thời gian để suy nghĩ về những lĩnh vực mà chúng ta thậm chí không nhận ra sự thiên vị của AI. Trong một lĩnh vực phức tạp như an ninh mạng, làm thế nào để chúng ta nhận ra kết quả thiên vị?
AI đã trở thành một công cụ bảo mật hàng đầu, với nghiên cứu chỉ ra rằng 69% giám đốc điều hành CNTT nói rằng họ không thể đối phó với các mối đe dọa mà không có AI. Tuy nhiên, cho dù được sử dụng để cải thiện khả năng phòng thủ hoặc giảm tải các nhiệm vụ bảo mật, điều quan trọng là chúng tôi tin tưởng rằng kết quả mà AI mang lại cho chúng tôi không bị sai lệch. Về bảo mật, thiên vị AI là một dạng rủi ro, càng nhiều thông tin, bối cảnh và chuyên môn bạn cung cấp cho AI của mình, bạn càng có thể quản lý rủi ro bảo mật và các điểm mù. Mặt khác, các loại sai lệch khác nhau, từ định kiến về chủng tộc và văn hóa đến các hình thức thiên vị theo ngữ cảnh, liên quan đến ngành, có thể tác động đến AI. Để có hiệu quả, các mô hình AI phải đa dạng. Vậy làm thế nào để chúng ta đảm bảo chiều rộng này, và điều gì có thể sai nếu chúng ta không?
Dưới đây là ba lĩnh vực tôi tin là không thể thiếu để giúp ngăn chặn sự thiên vị của AI làm tổn hại đến các nỗ lực bảo mật.
THUẬT TOÁN GIẢI QUYẾT VẤN ĐỀ
Khi các mô hình AI dựa trên các giả định bảo mật sai lệch hoặc sai lệch vô thức, chúng sẽ làm nhiều hơn là đe dọa tư thế bảo mật của công ty. Họ cũng có thể gây ra tác động kinh doanh đáng kể. AI được điều chỉnh để đủ điều kiện lưu lượng truy cập mạng lành tính hoặc độc hại dựa trên các yếu tố không bảo mật có thể bỏ lỡ các mối đe dọa, cho phép chúng ví von vào mạng của một tổ chức. Nó cũng có thể vượt qua lưu lượng mạng, chặn những gì có thể là thông tin liên lạc kinh doanh quan trọng.
Ví dụ, hãy tưởng tượng rằng một nhà phát triển AI xem một khu vực trên thế giới là an toàn, bởi vì đó là một quốc gia đồng minh và một quốc gia khác là độc hại, bởi vì đó là một chế độ độc đoán. Do đó, nhà phát triển cho phép tất cả lưu lượng truy cập mạng từ cái trước vào, trong khi chặn tất cả lưu lượng truy cập từ cái sau. Kiểu thiên vị tổng hợp này có thể khiến AI bỏ qua các bối cảnh bảo mật khác có thể quan trọng hơn.
Nếu các nhà khoa học máy tính thiết kế các thuật toán AI mà không có ảnh hưởng và đầu vào từ các chuyên gia bảo mật, kết quả sẽ là thiếu sót. Bởi vì nếu các nhà khoa học AI không làm việc với các nhóm bảo mật để loại bỏ dữ liệu, đe dọa trí thông minh và bối cảnh, sau đó mã hóa những hiểu biết này, họ có thể điều chỉnh các công cụ AI với một số mức độ sai lệch. Do đó, các hệ thống bảo mật do AI cung cấp sai có thể không xác định được thứ gì đó cần được xác định là yếu tố lừa đảo, lỗ hổng hoặc vi phạm. Các quy tắc thiên vị trong các thuật toán chắc chắn tạo ra kết quả sai lệch.
DỮ LIỆU NGUỒN
Dữ liệu tự nó có thể tạo ra sự thiên vị khi các tài liệu nguồn không đa dạng. AI cung cấp dữ liệu thiên vị sẽ chỉ hiểu một phần của thế giới và đưa ra quyết định dựa trên hiểu biết hạn hẹp đó. Trong an ninh mạng, điều đó có nghĩa là các mối đe dọa sẽ bị bỏ qua. Chẳng hạn, nếu một trình phân loại spam không được đào tạo trên một tập hợp các email lành tính, chẳng hạn như email bằng nhiều ngôn ngữ khác nhau hoặc với các đặc điểm ngôn ngữ như tiếng lóng, chắc chắn nó sẽ tạo ra các kết quả dương tính giả. Ngay cả việc sử dụng sai ngữ pháp, chính tả hoặc cú pháp có chủ ý cũng có thể nhắc nhở một trình phân loại spam chặn văn bản lành tính.
NHỮNG NGƯỜI CÓ ẢNH HƯỞNG AN NINH
Các mô hình AI cũng có thể bị tầm nhìn đường hầm. Vì mô hình hành vi của mối đe dọa mạng thay đổi dựa trên các yếu tố như địa lý hoặc quy mô kinh doanh, điều quan trọng là phải đào tạo AI trên các môi trường khác nhau mà mối đe dọa hoạt động và các hình thức khác nhau xảy ra. Chẳng hạn, trong môi trường dịch vụ tài chính, nếu bạn xây dựng AI để chỉ phát hiện các vấn đề dựa trên danh tính, nó sẽ không nhận ra các yếu tố độc hại bên ngoài cài đặt đó. Không có phạm vi bảo hiểm rộng, mô hình Al này sẽ không thể xác định các mối đe dọa bên ngoài mô hình mối đe dọa thích hợp mà nó được dạy.
NẾU CÁC NHÀ KHOA HỌC MÁY TÍNH THIẾT KẾ CÁC THUẬT TOÁN AI MÀ KHÔNG CÓ ĐẦU VÀO TỪ CÁC CHUYÊN GIA BẢO MẬT, KẾT QUẢ SẼ BỊ SAI SÓT.
Nhưng khi một nhóm bảo mật bao gồm các chuyên gia từ nhiều nền tảng, văn hóa và địa lý khác nhau, với chuyên môn khác nhau, nó có thể giúp các nhà phát triển AI đưa ra viễn cảnh 360 độ về nhiều mô hình hành vi đe dọa bảo mật vào AI để xử lý. Chúng ta phải huấn luyện các hệ thống chống lại sự đa dạng của các báo cáo vấn đề để cho phép một loạt các kịch bản được trình bày trong mô hình AI và sau đó, giúp ngăn chặn các lỗ hổng trong quá trình phát hiện mối đe dọa của nó.
Nếu các doanh nghiệp sẽ biến AI thành một tài sản không thể thiếu trong kho vũ khí bảo mật của họ, điều cần thiết là họ hiểu rằng AI không công bằng và chính xác không thể có hiệu quả. Một cách để giúp ngăn chặn sự thiên vị trong AI là làm cho nó đa dạng về nhận thức: Các nhà khoa học máy tính phát triển nó, cung cấp dữ liệu cho nó và các nhóm bảo mật ảnh hưởng đến nó nên có nhiều quan điểm đa dạng và đa dạng. Thông qua sự đa dạng về nhận thức, điểm mù của một chuyên gia, một điểm dữ liệu hoặc một cách tiếp cận có thể được quản lý bởi điểm mù của người khác, càng gần điểm mù càng tốt và không có sự thiên vị nhất có thể.
Vì vậy, để trả lời các câu hỏi tôi nhận được từ các nhà lãnh đạo doanh nghiệp, bạn chỉ có thể giải quyết các kết quả sai lệch không rõ ràng nếu bạn biết tìm ở đâu. Và trong bảo mật, bạn phải xem xét các yếu tố tạo ra kết quả. Đó là nơi bạn theo dõi cho bias bias và đó là nơi bạn sửa nó.
Aarti Borkar là phó giám đốc tại IBM Security, nơi cô chịu trách nhiệm về tầm nhìn, chiến lược và thực thi cho doanh nghiệp và xây dựng AI có đạo đức và các công cụ giảm thiểu thiên vị.
Xu hướng tồn tại ở khắp mọi nơi. Nhưng thật không dễ dàng để phát hiện ra chúng trong lĩnh vực công nghệ, vốn sôi sục với những thứ và số không. Trong công việc của tôi với tư cách là phó chủ tịch tại IBM Security, khi AI ngày càng có cơ sở, các nhà lãnh đạo doanh nghiệp thường hỏi tôi làm thế nào để đối phó với những thành kiến có thể không rõ ràng trong kết quả của thuật toán.
Chúng ta đã thấy sự thiên vị không phù hợp và ngoài ý muốn xuất hiện từ việc sử dụng AI của các ngành công nghiệp khác nhau, bao gồm cả tuyển dụng và cho vay thế chấp . Trong những trường hợp đó, kết quả không hoàn hảo là hiển nhiên khi sự thiên vị được phản ánh theo những cách liên quan đến các đặc điểm khác biệt về bản sắc của chúng ta: giới tính, chủng tộc, tuổi tác. Nhưng tôi đã dành rất nhiều thời gian để suy nghĩ về những lĩnh vực mà chúng ta thậm chí không nhận ra sự thiên vị của AI. Trong một lĩnh vực phức tạp như an ninh mạng, làm thế nào để chúng ta nhận ra kết quả thiên vị?
AI đã trở thành một công cụ bảo mật hàng đầu, với nghiên cứu chỉ ra rằng 69% giám đốc điều hành CNTT nói rằng họ không thể đối phó với các mối đe dọa mà không có AI. Tuy nhiên, cho dù được sử dụng để cải thiện khả năng phòng thủ hoặc giảm tải các nhiệm vụ bảo mật, điều quan trọng là chúng tôi tin tưởng rằng kết quả mà AI mang lại cho chúng tôi không bị sai lệch. Về bảo mật, thiên vị AI là một dạng rủi ro, càng nhiều thông tin, bối cảnh và chuyên môn bạn cung cấp cho AI của mình, bạn càng có thể quản lý rủi ro bảo mật và các điểm mù. Mặt khác, các loại sai lệch khác nhau, từ định kiến về chủng tộc và văn hóa đến các hình thức thiên vị theo ngữ cảnh, liên quan đến ngành, có thể tác động đến AI. Để có hiệu quả, các mô hình AI phải đa dạng. Vậy làm thế nào để chúng ta đảm bảo chiều rộng này, và điều gì có thể sai nếu chúng ta không?
Dưới đây là ba lĩnh vực tôi tin là không thể thiếu để giúp ngăn chặn sự thiên vị của AI làm tổn hại đến các nỗ lực bảo mật.
THUẬT TOÁN GIẢI QUYẾT VẤN ĐỀ
Khi các mô hình AI dựa trên các giả định bảo mật sai lệch hoặc sai lệch vô thức, chúng sẽ làm nhiều hơn là đe dọa tư thế bảo mật của công ty. Họ cũng có thể gây ra tác động kinh doanh đáng kể. AI được điều chỉnh để đủ điều kiện lưu lượng truy cập mạng lành tính hoặc độc hại dựa trên các yếu tố không bảo mật có thể bỏ lỡ các mối đe dọa, cho phép chúng ví von vào mạng của một tổ chức. Nó cũng có thể vượt qua lưu lượng mạng, chặn những gì có thể là thông tin liên lạc kinh doanh quan trọng.
Ví dụ, hãy tưởng tượng rằng một nhà phát triển AI xem một khu vực trên thế giới là an toàn, bởi vì đó là một quốc gia đồng minh và một quốc gia khác là độc hại, bởi vì đó là một chế độ độc đoán. Do đó, nhà phát triển cho phép tất cả lưu lượng truy cập mạng từ cái trước vào, trong khi chặn tất cả lưu lượng truy cập từ cái sau. Kiểu thiên vị tổng hợp này có thể khiến AI bỏ qua các bối cảnh bảo mật khác có thể quan trọng hơn.
Nếu các nhà khoa học máy tính thiết kế các thuật toán AI mà không có ảnh hưởng và đầu vào từ các chuyên gia bảo mật, kết quả sẽ là thiếu sót. Bởi vì nếu các nhà khoa học AI không làm việc với các nhóm bảo mật để loại bỏ dữ liệu, đe dọa trí thông minh và bối cảnh, sau đó mã hóa những hiểu biết này, họ có thể điều chỉnh các công cụ AI với một số mức độ sai lệch. Do đó, các hệ thống bảo mật do AI cung cấp sai có thể không xác định được thứ gì đó cần được xác định là yếu tố lừa đảo, lỗ hổng hoặc vi phạm. Các quy tắc thiên vị trong các thuật toán chắc chắn tạo ra kết quả sai lệch.
DỮ LIỆU NGUỒN
Dữ liệu tự nó có thể tạo ra sự thiên vị khi các tài liệu nguồn không đa dạng. AI cung cấp dữ liệu thiên vị sẽ chỉ hiểu một phần của thế giới và đưa ra quyết định dựa trên hiểu biết hạn hẹp đó. Trong an ninh mạng, điều đó có nghĩa là các mối đe dọa sẽ bị bỏ qua. Chẳng hạn, nếu một trình phân loại spam không được đào tạo trên một tập hợp các email lành tính, chẳng hạn như email bằng nhiều ngôn ngữ khác nhau hoặc với các đặc điểm ngôn ngữ như tiếng lóng, chắc chắn nó sẽ tạo ra các kết quả dương tính giả. Ngay cả việc sử dụng sai ngữ pháp, chính tả hoặc cú pháp có chủ ý cũng có thể nhắc nhở một trình phân loại spam chặn văn bản lành tính.
NHỮNG NGƯỜI CÓ ẢNH HƯỞNG AN NINH
Các mô hình AI cũng có thể bị tầm nhìn đường hầm. Vì mô hình hành vi của mối đe dọa mạng thay đổi dựa trên các yếu tố như địa lý hoặc quy mô kinh doanh, điều quan trọng là phải đào tạo AI trên các môi trường khác nhau mà mối đe dọa hoạt động và các hình thức khác nhau xảy ra. Chẳng hạn, trong môi trường dịch vụ tài chính, nếu bạn xây dựng AI để chỉ phát hiện các vấn đề dựa trên danh tính, nó sẽ không nhận ra các yếu tố độc hại bên ngoài cài đặt đó. Không có phạm vi bảo hiểm rộng, mô hình Al này sẽ không thể xác định các mối đe dọa bên ngoài mô hình mối đe dọa thích hợp mà nó được dạy.
NẾU CÁC NHÀ KHOA HỌC MÁY TÍNH THIẾT KẾ CÁC THUẬT TOÁN AI MÀ KHÔNG CÓ ĐẦU VÀO TỪ CÁC CHUYÊN GIA BẢO MẬT, KẾT QUẢ SẼ BỊ SAI SÓT.
Nhưng khi một nhóm bảo mật bao gồm các chuyên gia từ nhiều nền tảng, văn hóa và địa lý khác nhau, với chuyên môn khác nhau, nó có thể giúp các nhà phát triển AI đưa ra viễn cảnh 360 độ về nhiều mô hình hành vi đe dọa bảo mật vào AI để xử lý. Chúng ta phải huấn luyện các hệ thống chống lại sự đa dạng của các báo cáo vấn đề để cho phép một loạt các kịch bản được trình bày trong mô hình AI và sau đó, giúp ngăn chặn các lỗ hổng trong quá trình phát hiện mối đe dọa của nó.
Nếu các doanh nghiệp sẽ biến AI thành một tài sản không thể thiếu trong kho vũ khí bảo mật của họ, điều cần thiết là họ hiểu rằng AI không công bằng và chính xác không thể có hiệu quả. Một cách để giúp ngăn chặn sự thiên vị trong AI là làm cho nó đa dạng về nhận thức: Các nhà khoa học máy tính phát triển nó, cung cấp dữ liệu cho nó và các nhóm bảo mật ảnh hưởng đến nó nên có nhiều quan điểm đa dạng và đa dạng. Thông qua sự đa dạng về nhận thức, điểm mù của một chuyên gia, một điểm dữ liệu hoặc một cách tiếp cận có thể được quản lý bởi điểm mù của người khác, càng gần điểm mù càng tốt và không có sự thiên vị nhất có thể.
Vì vậy, để trả lời các câu hỏi tôi nhận được từ các nhà lãnh đạo doanh nghiệp, bạn chỉ có thể giải quyết các kết quả sai lệch không rõ ràng nếu bạn biết tìm ở đâu. Và trong bảo mật, bạn phải xem xét các yếu tố tạo ra kết quả. Đó là nơi bạn theo dõi cho bias bias và đó là nơi bạn sửa nó.
Aarti Borkar là phó giám đốc tại IBM Security, nơi cô chịu trách nhiệm về tầm nhìn, chiến lược và thực thi cho doanh nghiệp và xây dựng AI có đạo đức và các công cụ giảm thiểu thiên vị.
Nhận xét
Đăng nhận xét