Ngày 22/7 vừa qua, trong một sự kiện quan trọng của Cục Dự trữ Liên bang Mỹ (FED) tập trung vào việc thảo luận về tác động kinh tế và xã hội của trí tuệ nhân tạo (AI), Sam Altman, CEO của OpenAI – công ty tiên phong trong việc phát triển ChatGPT, đã lên tiếng cảnh báo về những rủi ro tiềm ẩn mà thế giới có thể đối mặt do sự phát triển nhanh chóng của AI.

Theo ông Altman, khả năng giả mạo giọng nói và hình ảnh bằng AI đang đạt đến mức độ tinh vi, có thể dễ dàng vượt qua nhiều hình thức xác thực hiện tại. Ông bày tỏ sự lo ngại đặc biệt về việc một số tổ chức tài chính vẫn chấp nhận giọng nói như một phương thức xác minh để chuyển tiền hoặc thực hiện các hành động quan trọng, điều mà ông coi là “thực sự nguy hiểm”.

Ông Altman chỉ ra rằng AI hiện đã có khả năng đánh bại gần như toàn bộ các phương thức xác thực hiện tại, ngoại trừ mật khẩu. Điều này đặt ra một thách thức lớn trong việc đảm bảo an ninh và bảo mật trong thời đại AI.

Không chỉ dừng lại ở đó, ông Altman còn bày tỏ lo ngại về viễn cảnh siêu AI bị các thế lực thù địch lạm dụng trong khi phần còn lại của thế giới chưa đủ khả năng phòng thủ. Ông lo lắng về việc một kẻ xấu có thể tạo ra siêu AI trước phần còn lại của thế giới và sử dụng nó để tấn công vào các hệ thống quan trọng như lưới điện hoặc chế tạo vũ khí sinh học.

Ông Altman cũng nhấn mạnh rằng thế giới chưa sẵn sàng đối mặt với những công nghệ mới như video và cuộc gọi AI giả mạo, vốn có thể không thể phân biệt được với người thật. Điều này đòi hỏi phải có những giải pháp kiểm soát AI hiệu quả hơn.

Ủng hộ sáng kiến The Orb – một thiết bị giúp xác minh người dùng là con người thật trong môi trường kỹ thuật số, ông Altman kỳ vọng dự án này sẽ trở thành một nền tảng “chứng thực nhân dạng” trong thế giới mà AI có thể dễ dàng giả mạo mọi thứ.

Ông Altman khẳng định OpenAI không phát triển các công cụ tạo video hay giọng nói giả mạo. Tuy nhiên, ông thừa nhận rằng các công nghệ đó đang tiến bộ rất nhanh, không chỉ tại Mỹ mà còn trên toàn thế giới.

Ông Altman lo lắng về một cuộc khủng hoảng toàn cầu về sự thật và lòng tin khi AI ngày càng phát triển và có khả năng tạo ra nội dung giả mạo một cách dễ dàng.

Trước đó, đã có nhiều sự cố liên quan đến deepfake gây chấn động dư luận. Tại Việt Nam, các chuyên gia cũng đã lên tiếng trước một số trào lưu sử dụng deepfake để tạo nội dung câu like, câu view.

Liên quan đến vấn đề này, luật sư Đăng Ngọc Duệ, Giám đốc Công ty Luật TNHH Phụng Sự Công Lý, cho biết tùy thuộc vào nội dung hình ảnh, video được dàn dựng và mục đích của người sản xuất/phát tán, sẽ có các lỗi và quy định xử lý riêng.