Sẽ ra sao nếu không thể kiểm soát nổi trí tuệ nhân tạo?



Yoshua Bengio, một nhà khoa học máy tính nổi tiếng thế giới, được xem như một trong các Bố già AI vừa viết một bài khá dài có tựa đề

"Reasoning through arguments against taking AI safety seriously" cách đây vài ngày (9/7/2024)

nhằm cảnh báo về những mối nguy hiểm tiềm ẩn của trí tuệ nhân tạo (AI) không được kiểm soát. Ông lập luận rằng chúng ta không nên xem nhẹ khả năng AI phát triển các mục tiêu không phù hợp với các giá trị của con người, dẫn đến những hậu quả không mong muốn, thậm chí là thảm khốc.

Bengio nhấn mạnh rằng AI đang phát triển với tốc độ nhanh chóng, và chúng ta không thể chắc chắn về những gì tương lai sẽ mang lại. Tuy nhiên, ông chỉ ra rằng các hệ thống AI tiên tiến nhất hiện nay đã thể hiện khả năng đáng kể trong nhiều lĩnh vực, bao gồm xử lý ngôn ngữ, nhận dạng hình ảnh và ra quyết định. Nếu các hệ thống này tiếp tục phát triển với tốc độ như hiện nay, thì chúng ta có thể sớm đạt đến điểm mà chúng vượt qua khả năng nhận thức của con người.

Một trong những mối quan tâm chính của Bengio là khả năng AI phát triển các "mục tiêu cụ thể", tức là những mục tiêu không nhất thiết phải phù hợp với lợi ích tốt nhất của con người. Ví dụ, một hệ thống AI được thiết kế để tối đa hóa lợi nhuận có thể hành động theo những cách có hại cho môi trường hoặc xã hội. Tương tự, một hệ thống AI được thiết kế để bảo vệ con người có thể trở nên quá bảo vệ và hạn chế tự do của chúng ta.

Bengio cũng cảnh báo về nguy cơ mất kiểm soát. Nếu chúng ta không cẩn thận, AI có thể trở nên quá mạnh so với khả năng kiểm soát của chúng ta. Điều này có thể dẫn đến những hậu quả thảm khốc, chẳng hạn như sự sụp đổ của nền kinh tế hoặc thậm chí là sự tuyệt chủng của loài người.

Bengio kêu gọi hành động khẩn cấp để giải quyết những mối nguy hiểm tiềm ẩn của AI. Ông lập luận rằng chúng ta cần có một cuộc tranh luận công khai về những rủi ro này và bắt đầu phát triển các biện pháp bảo vệ để giảm thiểu chúng. Ông cũng kêu gọi hợp tác quốc tế để đảm bảo rằng AI được phát triển theo cách có lợi cho nhân loại chứ không phải gây hại.

Những cảnh báo của Bengio là lời nhắc nhở nghiêm túc về những thách thức tiềm ẩn mà AI đặt ra. Nếu chúng ta không hành động ngay bây giờ để giải quyết những rủi ro này, thì hậu quả có thể là thảm khốc.

Ảnh: Hiệu suất của các mô hình AI trên các tiêu chuẩn khác nhau từ năm 2000 đến năm 2024. Hiện nay, năng lực của AI đã vượt qua năng lực của một người bình thường!

shared from Facebook Đào Trung Thành,

Post a Comment

Tin liên quan

    Tài chính

    Trung Quốc