Ai có thể gói gọn nó trong một giao diện dễ sử dụng, xây dựng cả một công ty xung quanh nó, và tuyên bố rằng cả một ngành công nghiệp sắp bị đảo lộn.
Trong một thời gian, mọi thứ có vẻ như vậy. Nhưng một khi khả năng tương tự trở nên phổ biến rộng rãi, lợi thế bắt đầu biến mất. Những gì trông giống như sự đột phá hóa ra lại chỉ là một tính năng khác.
AI có thể giúp việc thực thi nhanh hơn, rẻ hơn và dễ dàng hơn. Nhưng khi các mô hình và khả năng giống nhau có sẵn cho tất cả mọi người, việc tiếp cận công nghệ hiếm khi là một lợi thế lâu dài.
Lợi thế thực sự đến từ cách mọi người áp dụng nó trong một tổ chức.
AI Không Hiểu Về Tổ Chức
Một mô hình có thể hiểu về lập trình, tài chính, tiếp thị, hoặc hỗ trợ khách hàng. Nhưng nó không tự động hiểu tại sao một tổ chức lại hoạt động theo cách của nó.
Những quyết định kế thừa nào đã tạo ra các hệ thống hiện tại?
Yêu cầu nào của khách hàng thực sự là bất di bất dịch?
Quy trình nào được đưa ra vì những thất bại trước đây?
Mục tiêu nào trông có vẻ hợp lý trong bảng tính nhưng gần như không thể đạt được trong thực tế?
Những ràng buộc về pháp lý, bảo mật, vận hành hoặc kinh doanh nào có liên quan trong lĩnh vực này?
Kiến thức này hiếm khi có sẵn ở một nơi hoàn chỉnh và đáng tin cậy. Nó có thể tồn tại rải rác trong con người, hệ thống, tài liệu, cuộc trò chuyện và các quyết định trong quá khứ.
Chúng ta thường gọi nó là kiến thức bộ lạc. Nhiều kiến thức trong số đó có thể và nên được ghi chép lại, nhưng chỉ riêng việc ghi chép không giải quyết được vấn đề.
RAG và tinh chỉnh có thể giúp các mô hình tiếp cận kiến thức tổ chức. Nhưng chúng không thể đảm bảo rằng thông tin là đầy đủ, cập nhật, phù hợp hoặc được áp dụng một cách chính xác.
Con người vẫn cần thiết để nhận ra bối cảnh còn thiếu, xử lý các trường hợp ngoại lệ, đặt câu hỏi về các giả định và xác thực kết quả đầu ra.
Quan trọng hơn, con người phải đưa ra những phán đoán vượt xa những gì các hệ thống này có thể hỗ trợ một cách đáng tin cậy.
Việc Xem Xét Lại Không Chỉ Đơn Thuần Là Sửa Lỗi AI
Các mô hình ngôn ngữ lớn có thể tạo ra thông tin không chính xác mà không nhận ra rằng nó không chính xác.
Phản ứng thông thường là thêm một người xem xét để kiểm tra đầu ra. Nhưng việc xem xét đầu ra của AI nên bao gồm nhiều hơn là chỉ sửa các lỗi thực tế.
Một người hiểu về lĩnh vực và tổ chức có thể:
- Áp dụng logic tổ chức
- Nhận ra các trường hợp đặc biệt
- Xác định thông tin còn thiếu
- Hiểu chi phí của một lỗi
- Đánh giá các rủi ro kinh doanh, pháp lý và bảo mật
- Nhận ra khi nào AI đang được sử dụng cho một vấn đề sai
- Cải thiện prompt, quy trình làm việc hoặc hệ thống để sử dụng trong tương lai
Thông qua quá trình này, con người làm nhiều hơn là chỉ sửa lỗi cho mô hình. Họ làm cho tổ chức trở nên có năng lực hơn.
Con người không phải là một phụ kiện của hệ thống AI.
Họ là một phần của hệ thống.
Các Mô Hình Thay Đổi, Nhưng Tổ Chức Phải Tiếp Tục Hoạt Động
Các mô hình AI liên tục được cập nhật.
Một mô hình mới hơn có thể có khả năng suy luận tốt hơn nhưng lại tệ hơn về giọng điệu, định dạng hoặc hành vi sử dụng công cụ. Một API có thể thay đổi. Một tính năng có thể bị loại bỏ. Một mô hình có thể bị ngừng hoạt động.
Cũng có những rủi ro liên quan đến việc phụ thuộc nhiều vào một nhà cung cấp duy nhất.
Giá cả có thể tăng. Chính sách sử dụng có thể thay đổi. Các tính năng có thể không còn khả dụng. Một mô hình hoạt động tốt hôm nay có thể không còn phù hợp sau sáu tháng nữa.
Một tổ chức đã tối ưu hóa các quy trình của mình xoay quanh một mô hình cụ thể có thể bị gián đoạn nghiêm trọng nếu thiếu chuyên môn nội bộ.
Một đội ngũ có năng lực có thể giảm thiểu rủi ro này bằng cách:
- Hiểu cách hệ thống hoạt động
- Đánh giá các phiên bản mô hình mới
- Kiểm tra các thay đổi trước khi triển khai sản xuất
- Giám sát chất lượng đầu ra
- Điều chỉnh prompt và quy trình làm việc
- So sánh các mô hình thay thế
- Giảm sự phụ thuộc vào một nhà cung cấp
Khi một mô hình trở nên quá đắt, không đáng tin cậy hoặc không phù hợp, nhóm nên có khả năng di chuyển với sự gián đoạn hạn chế.
Nếu không có khả năng đó, tổ chức không được trao quyền bởi AI.
Nó phụ thuộc vào AI.
Tự Động Hóa Hoàn Toàn Có Thể Tạo Ra Rủi Ro Mới
Con người không cần phải tham gia vào mọi bước quy trình thường nhật.
Nhưng việc loại bỏ con người khỏi một quy trình chỉ vì nó có thể được tự động hóa có thể tạo ra một hệ thống nguy hiểm hơn.
Nhiều sản phẩm AI phụ thuộc vào các mô hình, thư viện, API, công cụ, plugin và nguồn dữ liệu bên ngoài.
Bất kỳ thành phần nào trong số này cũng có thể trở thành điểm yếu vì:
- Một phụ thuộc dễ bị tổn thương hoặc bị xâm phạm
- Dữ liệu không chính xác hoặc bị đầu độc
- Một tài liệu độc hại
- Tiêm prompt
- Một cuộc tấn công jailbreak
- Quyền hạn quá mức
- Sử dụng công cụ không chính xác
- Sự hiểu lầm về những gì hệ thống có thể làm một cách an toàn
Càng có nhiều lớp giữa người chịu trách nhiệm và công việc đang được thực hiện, thì càng có nhiều cơ hội để xảy ra sai sót.
Phần mềm truyền thống tuân theo các hướng dẫn được xác định trước.
Hệ thống AI diễn giải các hướng dẫn.
Sự khác biệt đó rất quan trọng.
Xác thực đầu vào, kiểm soát truy cập, ghi nhật ký, giám sát, kiểm toán và quy trình phê duyệt vẫn là cần thiết. Nhưng giờ đây chúng phải tính đến các hệ thống có thể diễn giải ngôn ngữ không đáng tin cậy và thực hiện các hành động dựa trên sự diễn giải đó.
Câu trả lời không phải là tránh tự động hóa.
Đó là xác định rõ ràng ai sở hữu hệ thống, ai hiểu các rủi ro của nó và ai chịu trách nhiệm khi có sự cố xảy ra.
Sự lựa chọn không phải là giữa con người và AI.
Câu hỏi thực sự là trách nhiệm của con người phải được duy trì ở đâu.
Cả Hai Thái Cực Của Cuộc Tranh Luận Về AI Đều Gây Hiểu Lầm
Một bên cho rằng AI sẽ hoàn toàn thay thế lao động của con người.
Bên kia cho rằng AI sẽ có ít tác động đáng kể.
Cả hai quan điểm đều quá đơn giản.
AI sẽ tự động hóa một số tác vụ, loại bỏ một số vai trò, tạo ra những vai trò mới và thay đổi đáng kể nhiều vai trò khác.
Nó sẽ cho phép các nhóm nhỏ hơn thực hiện công việc trước đây đòi hỏi các nhóm lớn hơn nhiều.
Nhưng điều đó không làm cho con người trở nên kém quan trọng hơn.
Nó trao cho những người còn lại nhiều trách nhiệm hơn.
Khi AI làm cho việc thực thi nhanh hơn và rẻ hơn, giá trị của sự phán đoán sẽ tăng lên.
AI có thể hỗ trợ các quyết định và tự động hóa các phần của quá trình ra quyết định. Nhưng trách nhiệm và nghĩa vụ giải trình không thể đơn giản chuyển giao cho một mô hình.
Vốn Con Người Không Phải Là Việc Bảo Vệ Công Việc Như Hiện Tại
Đầu tư vào con người không có nghĩa là bảo vệ mọi vai trò, quy trình hoặc cách làm việc hiện có.
Nó có nghĩa là phát triển những con người có thể thích ứng với hoàn cảnh mới và đóng góp vào sự thành công lâu dài của tổ chức.
Những người có giá trị nhất có thể không chỉ đơn giản là những người có công việc hiện tại có vẻ an toàn nhất trước tự động hóa.
Họ có thể là những người có thể kết hợp:
- Kiến thức lĩnh vực
- Bối cảnh tổ chức
- Hiểu biết về khách hàng
- Khả năng kỹ thuật
- Phán đoán đúng đắn
- Nhận thức về rủi ro
- Khả năng sử dụng AI hiệu quả
Các tổ chức không chỉ nên hỏi:
"Chúng ta có thể thay thế bao nhiêu người bằng AI?"
Họ cũng nên hỏi:
- AI có thể giúp nhân viên của chúng ta làm việc tốt hơn như thế nào?
- Kiến thức tổ chức nào chúng ta phải giữ lại?
- Ai hiểu toàn bộ hệ thống?
- Ai có thể đưa ra những phán đoán khó khăn khi cần thiết?
- Mọi người sẽ đánh giá các khuyến nghị do AI tạo ra như thế nào?
- Trách nhiệm sẽ được phân bổ như thế nào khi AI thực hiện một hành động?
- Làm thế nào để chúng ta đảm bảo các nhóm của mình có thể thích ứng khi công nghệ thay đổi?
Những câu hỏi này quyết định liệu AI trở thành một công cụ hiệu quả ngắn hạn hay một năng lực tổ chức dài hạn.
Lợi Thế Thực Sự
AI có thể làm giảm giá trị của việc thực thi thông thường trong khi tăng giá trị của sự phán đoán.
Nó có thể làm cho một số vai trò trở nên không cần thiết, nhưng nó cũng có thể làm cho những người phù hợp trở nên có năng lực hơn nhiều.
Các tổ chức được hưởng lợi nhiều nhất từ AI sẽ không chỉ đơn giản tự động hóa càng nhiều càng tốt.
Họ sẽ sử dụng AI để làm cho nhân viên của mình hiệu quả hơn.
Họ sẽ tự động hóa công việc ở những nơi mà tốc độ, tính nhất quán và quy mô là quan trọng.
Họ sẽ duy trì quyền sở hữu rõ ràng của con người ở những nơi mà bối cảnh, rủi ro, phán đoán và trách nhiệm giải trình là quan trọng.
Mọi người không nên dành thời gian làm công việc mà AI có thể thực hiện một cách đáng tin cậy.
Đồng thời, AI không nên được để tự đưa ra các quyết định đòi hỏi bối cảnh, trách nhiệm hoặc nghĩa vụ giải trình của con người.
Biết ranh giới đó nằm ở đâu sẽ vẫn là một vấn đề của con người.
Khi mọi người đều có quyền truy cập vào AI, bản thân mô hình sẽ không phải là lợi thế. Những người biết cách, ở đâu và khi nào sử dụng nó mới là lợi thế.
