Được nhờ đặt lịch gym, AI 'đá' luôn người đang ở hàng chờ

Chỉ muốn AI giúp đặt một suất tập gym, Andrew Bird không ngờ trợ lý ảo lại phát hiện lỗ hổng website, hủy suất của người khác để đưa mình lên hàng chờ. Đến lúc sửa sai thì... AI cũng bó tay.

Andrew Bird, trưởng bộ phận AI tại Công ty Affinda (Úc), có một nhu cầu rất bình thường như "cân đường hộp sữa": đặt được suất tập gym. Tuy nhiên, các lớp tập anh muốn tham gia thường kín chỗ nhanh.

Tận dụng "vốn tự có", Bird tạo nên một AI agent để tự động theo dõi và đặt lịch tập gym thay mình. Mọi chuyện ban đầu diễn ra khá đúng kịch bản, cho đến khi trợ lý ảo phát hiện hệ thống đặt lịch có một lỗ hổng.

Và thay vì chỉ "khoanh tay đứng nhìn" hoặc báo cáo cho "ông chủ" biết, AI này quyết định tự ra tay, thử xem mình có thể làm được gì với lỗ hổng ấy.

Khi AI quá 'nhiệt tình' với nhiệm vụ được giao

Theo ABC News, trong quá trình thực hiện nhiệm vụ, AI phát hiện API của hệ thống đặt lịch không kiểm tra quyền đầy đủ. Lỗ hổng này cho phép nó thực hiện một số thao tác mà tài khoản thông thường đáng ra không được phép làm, trong đó có việc hủy suất của người khác.

Khi Bird đang đứng thứ 4 trong danh sách chờ một lớp tập, anh hỏi AI liệu có cách nào giúp mình tiến lên phía trước hay không.

Và AI đã tìm ra một cách. Nó thử hủy suất của người đang đứng đầu danh sách chờ. Thao tác thành công, và Bird lập tức từ vị trí thứ 4 lên thứ 3.

Đến đây, câu chuyện bắt đầu chuyển từ "AI giúp mình đặt lịch" sang "AI hình như hơi nhiệt tình quá rồi".

Bird yêu cầu AI hoàn tác thao tác vừa thực hiện. Nhưng hóa ra hệ thống chỉ có lỗ hổng ở chiều hủy, còn việc thêm người trở lại danh sách chờ vẫn được kiểm tra quyền bình thường.

Thế là AI đành thông báo một câu nghe khá vô tư trong một tình huống chẳng vô tư chút nào: "Bad news. I can't add them back". Có thể hiểu là: "Tin xấu rồi. Tui không có thêm họ trở lại được nữa".

AI biết chen hàng: có phải là 'nổi loạn'?

Điều khiến câu chuyện đáng chú ý không nằm ở việc một hệ thống đặt lịch có lỗ hổng. Những lỗi phân quyền kiểu này vốn là vấn đề bảo mật quen thuộc.

Điểm đáng nói là AI agent đã tự phát hiện ra lỗ hổng trong lúc làm nhiệm vụ, sau đó sử dụng nó để tiến gần hơn đến mục tiêu của người dùng.

Bird không yêu cầu AI hack website, cũng không bảo nó hủy suất của người khác. Anh chỉ muốn trợ lý của mình tìm cách đặt được lớp tập và sau đó hỏi liệu có thể cải thiện vị trí trong danh sách chờ hay không. Kết quả là AI đã tự tìm ra con đường ngắn nhất mà nó cho là phù hợp.

Theo Bird, AI không thể hiện hành vi ác ý. Sau khi sự việc xảy ra, nó còn hỗ trợ tìm hiểu lỗ hổng và thông báo cho bên cung cấp hệ thống để họ có thể khắc phục.

Điều này khiến câu chuyện trở nên vừa buồn cười vừa đáng suy nghĩ. AI không nhất thiết phải "nổi loạn" mới gây ra rắc rối. Đôi khi, nó chỉ là quá nghiêm túc và nhiệt tình với nhiệm vụ được giao.