Mô hình công ty chỉ có một con người điều hành, còn mọi hoạt động còn lại do trí tuệ nhân tạo đảm nhiệm, thường được xem là hình mẫu cho tương lai của lao động hiện đại. Tuy nhiên, một thử nghiệm thực tế gần đây đã chỉ ra rằng mô hình này vẫn tồn tại nhiều hạn chế đáng kể.
Nhà báo Evan Ratliff đã thành lập HurumoAI, một startup trong đó toàn bộ "nhân viên" đều là các tác nhân AI, ngoại trừ chính ông. Mỗi tác nhân được thiết lập với email riêng, tài khoản Slack và số điện thoại, nhằm mô phỏng đầy đủ môi trường làm việc của một doanh nghiệp thực tế. Trong giai đoạn đầu, các nhân viên AI thể hiện khả năng đáng chú ý khi có thể viết mã, tạo bảng tính và hỗ trợ phát triển một ứng dụng thu hút hàng nghìn người dùng sớm.
Tuy nhiên, các vấn đề nhanh chóng xuất hiện khi hệ thống vận hành trong thời gian dài hơn. Các tác nhân AI thiếu khả năng nhận biết ranh giới và bối cảnh xã hội, dẫn đến những phản ứng quá mức trước các câu hỏi đơn giản. Có trường hợp, một câu hỏi mang tính xã giao đã khiến hệ thống gửi hàng loạt tin nhắn liên tục trong nhiều giờ, tiêu tốn chi phí vận hành cho đến khi có sự can thiệp thủ công từ con người.
Trong trạng thái không được giám sát, các tác nhân AI hoặc hoàn toàn không hành động, hoặc ngược lại, rơi vào tình trạng hoạt động quá đà, liên tục trao đổi email, tin nhắn và lịch làm việc với nhau nhưng không tạo ra kết quả tương xứng. Việc điều phối các nhân viên AI vì thế đòi hỏi sự kiểm soát chặt chẽ, nhằm tránh cả hai thái cực đình trệ và hỗn loạn.
Dù mang danh là một công ty "toàn AI", HurumoAI vẫn phụ thuộc vào con người trong nhiều khâu quan trọng. Một sinh viên khoa học máy tính tại Đại học Stanford đã hỗ trợ xây dựng kiến trúc kỹ thuật và quản lý các hệ thống bộ nhớ mà AI không thể tự xử lý. Ngay cả với những hỗ trợ này, các tác nhân AI vẫn gặp khó trong việc lập kế hoạch dài hạn, đưa ra quyết định mang tính chủ quan và báo cáo chính xác công việc đã thực hiện.
Từ trải nghiệm trên, Evan Ratliff cho rằng các tác nhân AI hiện nay tương tự những hệ thống tự lái ở giai đoạn đầu, chỉ thực sự hiệu quả trong những bối cảnh hạn chế. Theo ông, AI có thể hỗ trợ và tăng tốc công việc, nhưng trong điều kiện hiện tại, con người vẫn giữ vai trò không thể thiếu trong việc giám sát và quản lý, dù triển vọng này có thể thay đổi theo thời gian.
