Các nhà nghiên cứu Mỹ và Trung Quốc đã thực hiện loạt bài kiểm tra nhằm chứng minh sự tồn tại của lệnh ẩn. Đó là những câu lệnh mà con người không thể nghe thấy nhưng lại tác động được đến trợ lý ảo, buộc chúng thực hiện các hành động vượt ngoài mong muốn của chủ nhân.

Thông tin từ tờ New York Time cho biết, kẻ xấu có thể tích hợp câu lệnh ẩn khi gọi vào số điện thoại, mở trang web hoặc nhiều hành động nguy hiểm khác.

tro ly ao co the bi thao tung nhan lenh tu giong noi sieu am

Một nhóm sinh viên đại học California và đại học Geogie Town (Mỹ) đã xuất bản bài nghiên cứu về chủ đề tương tự trong tháng này. Họ khẳng định đã tìm ra cách nhúng câu lệnh vào bản ghi âm hoặc văn bản nói.

Chúng được thể hiện dưới dạng âm thanh phát ra gần nơi đặt thiết bị có chứa trợ lý ảo. Người bình thường sẽ chỉ nghe được bài nhạc, trong khi các trợ lý ảo như Siri hay Amazon còn nhận về nhiều thông khác. Đó có thể là câu lệnh ngầm yêu cầu mở khóa máy hoặc chuyển tiền từ tài khoản.

Theo Nicholas Carlini, một thạc sĩ đang theo đuổi công trình nghiên cứu này, anh đang cố tìm hiểu xem liệu còn cách nào để truyền đi các đi các thông điệp ẩn hay không. “Khi không có bằng chứng chứng minh công nghệ này đã rời khỏi phòng thí nghiệm, sẽ chỉ còn là vấn đề thời gian khi ai đó bắt đầu khai thác chúng”, Nicholas Carlini chia sẻ.

tro ly ao co the bi thao tung nhan lenh tu giong noi sieu am

Hồi năm ngoái, các nhà khoa học tại Đại học Princeton và đại học Zhejjang (Trung Quốc) đã thực hiện một thí nghiệm tương tự nhằm chứng minh trợ lý ảoAI có thể được kích hoạt bằng các tần số mà con người không nghe được.

Trong kỹ thuật, người ta gọi đó là “DolphinAttack”. Các nhà nghiên cứu đã phát triển một máy phát (transmitter) để gửi lệnh ẩn yêu cầu máy gọi tới một nhân vật cụ thể. Họ còn thực hiện thêm các thử nghiệm khác với khả năng chụp ảnh và gửi tin nhắn. Kết quả cho thấy, việc thao túng có thể thực hiện nhưng gặp phải giới hạn về phạm vi. Nguồn phát phải ở rất gần thiết bị nhận mới có thể thực hiện được.

“DolphinAttack” có thể ngấm ngầm ra lệnh cho 7 hệ thống nhận dạng giọng nói khác nhau, trong đó bao gồm cả các công cụ nổi tiếng như Siri, Alexa để kích hoạt hệ thống.

Một nhóm nghiên cứu khác tại đại học Illinos cho biết, giới hạn việc truyền tải lệnh ẩn có thể lên tới hơn 7 mét. Với nhóm nghiên cứu của Nicolas Carlini, ông tự tin rằng đội ngũ của mình có thể đánh lừa bất kỳ hệ thống thông minh nào hiện có trên thị trường. Nhóm nghiên cứu muốn khẳng định rằng đây là một lỗ hổng tiềm tàng và sẽ phải sớm được khắc phục.