Franken thuật toán thuật toán đi lừa đảo

TÍN DỤNG HÌNH ẢNH:

iStock

Franken-Algorithms: Thuật toán trở nên lừa đảo

Với sự phát triển của trí tuệ nhân tạo, các thuật toán đang phát triển nhanh hơn dự đoán của con người.

tác giả:
tên tác giả
Tầm nhìn lượng tử
12 Tháng Tư, 2023

Khi các thuật toán máy học (ML) trở nên tiên tiến hơn, chúng có thể tự học và thích ứng với các mẫu trong bộ dữ liệu lớn. Quá trình này, được gọi là "tự học", có thể dẫn đến việc thuật toán tạo mã hoặc quy tắc riêng để đưa ra quyết định. Vấn đề với điều này là mã do thuật toán tạo ra có thể khó hoặc không thể hiểu được đối với con người, khiến việc xác định các sai lệch trở nên khó khăn.

Bối cảnh thuật toán Franken

Thuật toán Franken đề cập đến các thuật toán (các quy tắc mà máy tính tuân theo khi xử lý dữ liệu và phản hồi các lệnh) đã trở nên phức tạp và đan xen vào nhau đến mức con người không còn có thể giải mã chúng. Thuật ngữ này là một cái gật đầu với khoa học viễn tưởng của Mary Shelley về một "con quái vật" được tạo ra bởi nhà khoa học điên Tiến sĩ Frankenstein. Mặc dù các thuật toán và mã là nền tảng của công nghệ lớn và đã cho phép Facebook và Google trở thành những công ty có ảnh hưởng như hiện nay, nhưng vẫn còn rất nhiều điều về công nghệ mà con người chưa biết.

Khi các lập trình viên xây dựng mã và chạy chúng thông qua phần mềm, ML cho phép máy tính hiểu và dự đoán các mẫu. Trong khi các ông lớn công nghệ tuyên bố rằng các thuật toán là khách quan vì cảm xúc của con người và tính không thể đoán trước không ảnh hưởng đến chúng, thì các thuật toán này có thể phát triển và viết ra các quy tắc của riêng chúng, dẫn đến kết quả thảm hại. Mã do các thuật toán này tạo ra thường phức tạp và không rõ ràng, khiến các nhà nghiên cứu hoặc người thực hành khó diễn giải các quyết định của thuật toán hoặc xác định bất kỳ sai lệch nào có thể xuất hiện trong quá trình ra quyết định của thuật toán. Rào cản này có thể tạo ra những thách thức đáng kể cho các doanh nghiệp dựa vào các thuật toán này để đưa ra quyết định, vì họ có thể không hiểu hoặc giải thích được lý do đằng sau những quyết định đó.

Tác động gián đoạn

Khi Franken-Algorithms trở nên bất hảo, đó có thể là vấn đề sinh tử. Một ví dụ là một vụ tai nạn vào năm 2018 khi một chiếc ô tô tự lái ở Arizona đâm chết một phụ nữ đi xe đạp. Các thuật toán của chiếc xe không thể xác định chính xác cô ấy là con người. Các chuyên gia băn khoăn về nguyên nhân gốc rễ của vụ tai nạn - có phải chiếc xe đã được lập trình không đúng cách và thuật toán có trở nên quá phức tạp không? Tuy nhiên, điều mà các lập trình viên có thể đồng ý là cần phải có một hệ thống giám sát cho các công ty phần mềm - một quy tắc đạo đức.

Tuy nhiên, quy tắc đạo đức này đi kèm với một số trở ngại từ công nghệ lớn vì họ kinh doanh trong lĩnh vực bán dữ liệu và thuật toán, đồng thời không đủ khả năng chịu sự điều chỉnh hoặc yêu cầu phải minh bạch. Ngoài ra, một sự phát triển gần đây gây lo ngại cho các nhân viên công nghệ lớn là việc sử dụng ngày càng nhiều các thuật toán trong quân đội, chẳng hạn như sự hợp tác của Google với Bộ Quốc phòng Hoa Kỳ để kết hợp các thuật toán trong công nghệ quân sự, chẳng hạn như máy bay không người lái tự động. Ứng dụng này đã khiến một số nhân viên từ chức và các chuyên gia bày tỏ lo ngại rằng các thuật toán vẫn còn quá khó đoán để được sử dụng như những cỗ máy giết người.

Một mối quan tâm khác là Thuật toán Franken có thể tồn tại và thậm chí khuếch đại các sai lệch do các bộ dữ liệu mà chúng được đào tạo. Quá trình này có thể dẫn đến các vấn đề xã hội khác nhau, bao gồm phân biệt đối xử, bất bình đẳng và bắt giữ sai. Do những rủi ro tăng cao này, nhiều công ty công nghệ bắt đầu xuất bản các hướng dẫn về đạo đức AI của họ để minh bạch về cách họ phát triển, sử dụng và giám sát các thuật toán của mình.

Ý nghĩa rộng hơn cho các thuật toán Franken

Ý nghĩa tiềm ẩn đối với Thuật toán Franken có thể bao gồm:

Phát triển các hệ thống tự trị có thể đưa ra quyết định và thực hiện hành động mà không cần sự giám sát của con người, làm dấy lên lo ngại về trách nhiệm giải trình và sự an toàn. Tuy nhiên, các thuật toán như vậy có thể giảm chi phí phát triển phần mềm và người máy có thể tự động hóa lao động của con người trong hầu hết các ngành công nghiệp.
Xem xét kỹ lưỡng hơn về cách các thuật toán có thể tự động hóa công nghệ quân sự và hỗ trợ các loại vũ khí và phương tiện tự hành.
Gia tăng áp lực đối với các chính phủ và các nhà lãnh đạo ngành trong việc thực hiện quy tắc đạo đức và quy định thuật toán.
Thuật toán Franken tác động không tương xứng đến các nhóm nhân khẩu học nhất định, chẳng hạn như cộng đồng thu nhập thấp hoặc dân số thiểu số.
Thuật toán Franken có thể duy trì và khuếch đại sự phân biệt đối xử và thiên vị trong quá trình ra quyết định, chẳng hạn như quyết định tuyển dụng và cho vay.
Các thuật toán này đang được tội phạm mạng sử dụng để theo dõi và khai thác các điểm yếu trong hệ thống, đặc biệt là trong các tổ chức tài chính.
Các tác nhân chính trị sử dụng các thuật toán lừa đảo để tự động hóa các chiến dịch tiếp thị bằng cách sử dụng các hệ thống AI tổng quát theo những cách có thể tác động đến dư luận và gây ảnh hưởng đến các cuộc bầu cử.