Ranh giới AI trong Đạo luật AI EU

Trong bối cảnh phát triển nhanh chóng của trí tuệ nhân tạo (AI), Liên minh Châu Âu đã ban hành đạo luật về AI. Đây là Đạo luật đầu tiên trên thế giới tạo ra một hành lang pháp lý cho sự phát triển của hệ thống AI. Có hiệu lực từ ngày 1/8/2024, việc đưa ra thị trường, đưa vào phục vụ cho mục đích cụ thể hay sử dụng hệ thống AI phải tránh vi phạm những hoạt động về AI bị cấm của Đạo luật - được quy định tại Điều 5. Những quy định này ngăn chặn một số nguy cơ tiềm ẩn gây ảnh hưởng xấu tới con người và xã hội.

Hoạt động 1

Cấm các hệ thống AI gây ảnh hưởng hoặc tác động đến quá trình ra quyết định của con người. Trong đó có các hệ thống được tạo ra nhằm mục đích tác động hoặc bóp méo hành vi; làm suy giảm đáng kể khả năng ra quyết định sáng suốt của một người hoặc nhóm người. Mà những quyết định đó có ảnh hưởng tới sức khỏe, tinh thần, tài chính,... của họ.

Ví dụ, các hệ thống AI sử dụng kích thích âm thanh, hình ảnh, video mà con người không thể cảm nhận được, vì những kích thích đó nằm ngoài nhận thức của con người, có thể làm giảm sự tự chủ, ra quyết định hoặc tự do lựa chọn của con người.

Hoạt động 2

Cấm việc khai thác những “lỗ hổng” liên quan đến tuổi tác, tình trạng khuyết tật hoặc hoàn cảnh kinh tế - xã hội có mục đích hoặc làm bóp méo nghiêm trọng hành vi; mà việc đó có khả năng hoặc gây ra tổn hại đáng kể cho người đó hoặc những người khác;

Ví dụ, một hệ thống AI quảng cáo trực tuyến có thể nhận diện một người cao tuổi và sử dụng thông tin này để hiển thị các quảng cáo về sản phẩm bảo hiểm với mức giá cao, lợi dụng sự lo lắng về sức khỏe của họ. Đây là một hành vi khai thác lỗ hổng về tuổi tác nhằm bóp méo hành vi tiêu dùng của người cao tuổi, gây tổn hại tài chính cho họ.

Một ví dụ khác là việc sử dụng AI để phát hiện những người có hoàn cảnh kinh tế khó khăn và quảng cáo các khoản vay lãi suất cao hoặc sản phẩm tài chính có rủi ro. AI có thể nhận diện một người đang gặp khó khăn tài chính và đưa ra các quảng cáo nhắm vào họ, khiến họ dễ dàng bị lừa hoặc mắc nợ nặng hơn.

Hoạt động 3

Cấm việc sử dụng hệ thống AI dựa vào hành vi của một cá nhân hay một nhóm người để đánh giá và phân loại, suy luận hoặc dự đoán một điều gì đó (nói cách khác là tính điểm xã hội) dẫn đến chủ thể bị một hoặc cả hai điều sau đây:

• Bị gây bất lợi hoặc tổn hại ở hiện tại bởi hành vi bị đánh giá trong quá khứ. Ví dụ: Một cá nhân từng nộp thuế trễ 5 năm trước. Mặc dù trong hiện tại, người này đã có hành vi tích cực, tuân thủ pháp luật và có trách nhiệm, nhưng hệ thống AI vẫn đánh giá họ thấp và gây bất lợi trong việc tiếp cận các dịch vụ tài chính hoặc cơ hội việc làm hiện tại.
• Bị gây bất lợi hoặc tổn hại vì đánh giá không tương xứng với hành vi xã hội thực hiện. Ví dụ: Nếu một hệ thống AI dựa vào các hoạt động trên mạng xã hội của một cá nhân để đánh giá khả năng trung thành với công ty hoặc động lực làm việc và dựa trên những tương tác không phù hợp hoặc không liên quan (ví dụ việc chia sẻ nội dung giải trí không mang tính chất công việc) để ra quyết định về việc thăng chức hay giữ lại vị trí công việc, điều này có thể dẫn đến sự bất lợi không công bằng cho cá nhân đó.

Hoạt động 4

Cấm việc hệ thống AI đánh giá rủi ro của một cá nhân phạm tội hình sự chỉ dựa trên hồ sơ hoặc đặc điểm tính cách, ngoại trừ trường hợp sử dụng để tăng cường đánh giá dựa trên các sự kiện khách quan, có thể xác minh được liên quan trực tiếp đến hoạt động tội phạm.

Phù hợp với nguyên tắc suy đoán vô tội, các cá nhân trong Liên minh phải luôn được đánh giá dựa trên hành vi thực tế của họ. Không bao giờ được đánh giá các cá nhân dựa trên hành vi do AI dự đoán mà chỉ dựa trên hồ sơ, đặc điểm tính cách của họ như quốc tịch, nơi sinh, nơi cư trú, số con, mức nợ,... mà không có sự nghi ngờ hợp lý. Do đó, việc đánh giá rủi ro khả năng phạm tội; dự đoán khả năng xảy ra một hành vi phạm tội thực tế hoặc tiềm ẩn chỉ dựa trên việc lập hồ sơ sẽ bị cấm.

Tuy nhiên, Đạo luật lại không cấm việc đánh giá rủi ro trên hệ thống. Ví dụ, việc một công ty xây dựng một hệ thống để đánh giá hệ thống quản lý các giao dịch tài chính xem liệu các giao dịch có sự gian lận không, hay hệ thống của cơ quan hải quan có bỏ sót hàng hóa bất hợp pháp không.

Hoạt động 5

Cấm các hệ thống AI tạo hoặc mở rộng cơ sở dữ liệu nhận dạng khuôn mặt thông qua việc thu thập hình ảnh khuôn mặt không có mục tiêu từ internet hoặc đoạn phim CCTV vì theo Đạo luật thì hành vi này làm tăng thêm cảm giác bị giám sát hàng loạt và có thể dẫn đến vi phạm trắng trợn các quyền cơ bản, bao gồm cả quyền riêng tư.

Hoạt động 6

Cấm các hệ thống AI xác định hoặc suy ra cảm xúc của con người trong môi trường công sở và giáo dục. Có những lo ngại nghiêm trọng về cơ sở khoa học của các hệ thống này, đặc biệt khi biểu hiện cảm xúc khác nhau đáng kể giữa các nền văn hóa và các tình huống cụ thể. Thậm chí ngay cả trong một cá nhân cũng có sự khác biệt. Do đó, các hệ thống AI này có thể dẫn đến phân biệt đối xử và có thể xâm phạm các quyền và tự do của những người liên quan. Theo Đạo luật, việc khai thác các hệ thống AI như vậy trong môi trường công việc và giáo dục có thể xảy ra mất cân bằng quyền lực, dẫn đến việc gây bất lợi hoặc tổn hại đối với một số cá nhân hoặc tập thể.

Tuy nhiên, lệnh cấm này không bao gồm các hệ thống AI được đưa ra thị trường vì lý do y tế hoặc an toàn, chẳng hạn như các hệ thống dành cho mục đích trị liệu.

Ví dụ:

• Công ty A áp dụng hệ thống AI tại các cuộc họp để theo dõi cảm xúc của nhân viên, từ đó suy luận xem họ có hài lòng với cuộc họp hay không. Hệ thống này không chỉ vi phạm quyền riêng tư của nhân viên mà còn có thể dẫn đến sự phân biệt đối xử dựa trên các kết luận cảm tính sai lệch.
• Trường đại học B sử dụng hệ thống AI trong lớp học để đánh giá cảm xúc của sinh viên khi họ tham gia các bài giảng hoặc kỳ thi. Nếu hệ thống phát hiện sinh viên có dấu hiệu lo lắng hoặc không tập trung, giáo viên có thể quyết định thay đổi cách giảng dạy hoặc đánh giá kết quả của chúng dựa trên những thông tin này. Điều này có thể dẫn đến những quyết định không công bằng, do cảm xúc không phải lúc nào cũng phản ánh đúng khả năng hoặc ý định thực sự của sinh viên.

Hoạt động 7

Cấm việc sử dụng hệ thống AI để phân loại cá nhân dựa trên dữ liệu sinh trắc học. 'Dữ liệu sinh trắc học' là dữ liệu cá nhân được tạo ra từ quá trình xử lý kỹ thuật cụ thể liên quan đến các đặc điểm thể chất, sinh lý hoặc hành vi của một cá nhân.

Việc sử dụng hệ thống này để suy ra chủng tộc, quan điểm chính trị, tôn giáo, khuynh hướng tình dục,... sẽ bị cấm, trừ trường hợp các dữ liệu sinh trắc học được thu thập hợp pháp.

Hoạt động 8

Cấm sử dụng 'hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực' (hệ thống nhận dạng sinh trắc học từ xa, theo đó việc thu thập dữ liệu sinh trắc học, so sánh và nhận dạng đều diễn ra nhanh chóng, không chỉ bao gồm nhận dạng tức thời mà còn hạn chế độ chậm trễ để tránh gian lận) cho mục đích thực thi pháp luật.

Có thể thấy, Liên minh Châu Âu đã hiểu việc sử dụng các hệ thống này sẽ xâm phạm đến các quyền tự do của những người liên quan, ảnh hưởng đến đời sống riêng tư của người dân. Tuy nhiên, không phải bất cứ trường hợp nào liên quan đến thực thi pháp luật cũng không được sử dụng các ‘hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực'.

Cơ quan pháp luật có thể sử dụng nó trong các trường hợp sau dưới một quy trình nghiêm ngặt:

(i) tìm kiếm có chủ đích các nạn nhân cụ thể của vụ bắt cóc, buôn người hoặc bóc lột tình dục con người, cũng như tìm kiếm những người mất tích

(ii) ngăn chặn một mối đe dọa cụ thể, đáng kể và sắp xảy ra đối với tính mạng hoặc sự an toàn thể chất của con người hoặc

(iii) định vị hoặc xác định một người bị tình nghi đã phạm tội hình sự nhằm mục đích tiến hành điều tra hoặc truy tố hình sự hoặc thi hành hình phạt hình sự đối với các hành vi phạm tội nêu tại Phụ lục II và có thể bị trừng phạt ở Quốc gia Thành viên liên quan bằng biện pháp giam giữ bản án hoặc lệnh tạm giam có thời hạn tối đa ít nhất là bốn năm.

Bên cạnh đó, lệnh cấm này không đồng nghĩa với việc được sử dụng 'hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực' cho mục đích ngoài việc thực thi pháp luật.

Kết luận

Các hoạt động AI bị cấm không chỉ thể hiện cam kết của Châu Âu trong việc bảo vệ quyền con người mà còn đặt ra tiêu chuẩn quốc tế cho việc phát triển AI có đạo đức. Những quy định này nhấn mạnh tầm quan trọng của việc quản lý rủi ro công nghệ và bảo vệ quyền con người trong thời đại kỹ thuật số.