Các tiến bộ gần đây trong Trí tuệ Nhân tạo (AI) và việc phát hành ChatGPT đã tạo ra sự quan tâm mới về AI như một công cụ. Các mô hình ngôn ngữ lớn hoá thân thành chủ thể (LLMs) là nỗ lực mới nhất để tạo ra các AI chuyên biệt cao cấp và tránh chúng trở nên không kiểm soát. AI đang rất thịnh hành ngày nay, với mọi người và tổ chức vội vàng triển khai hoặc sử dụng AI để tăng cường hiệu suất và lợi nhuận. Nhưng một lo ngại còn đó bám theo thế giới AI, và nó ngày càng trở nên đáng lo ngại hơn khi thời gian trôi qua: việc cân chỉnh.
Cân chỉnh AI đề cập đến quá trình thiết kế và triển khai hệ thống AI sao cho chúng tuân thủ mục tiêu, giá trị và kết quả mong muốn của con người. Dicho qua từ khác, việc cân chỉnh liên quan đến việc đảm bảo AI không mất kiểm soát.
Đây là một lĩnh vực mới nổi trong AI, và nhà nghiên cứu và nhà phát triển chỉ mới bắt đầu nhận ra sự quan trọng của nó. Nỗi sợ hãi về AI trở nên ngoài tầm kiểm soát và có thể gây hại hoặc phá hủy con người đang thúc đẩy nỗ lực để cải thiện sự cân chỉnh AI.
Phân thành nhiều công việc AI bằng cách kết hợp
Một cách để đạt được sự cân chỉnh AI là tổng hợp - một khái niệm được lấy từ thế giới phần mềm, trong đó một phần mềm được xây dựng bằng cách tập hợp các thành phần hiện có để tạo ra một ứng dụng hoặc bộ công cụ.
Cân chỉnh thường được sử dụng khi đề cập đến việc huấn luyện các Mô hình Ngôn ngữ Lớn (LLMs) để tìm hiểu về một lĩnh vực tri thức cụ thể - và huấn luyện lại các mô hình đó định kỳ khi chúng bắt đầu lệch hướng.
Ý tưởng sử dụng tổng hợp trong AI là chia mô hình học thành các công việc con, với mỗi công việc tập trung vào một điều gì đó. Phần mềm tổng thể kiểm tra định kỳ với mỗi công việc để đảm bảo nó thực hiện chức năng của mình - và chỉ chức năng của mình.
Bằng cách sử dụng tổng hợp để tập trung các nhiệm vụ học về một điều gì đó, hệ thống AI có thể được xây dựng để đáng tin cậy và chính xác hơn bằng cách giữ cho các công việc và mô hình con cân chỉnh với mục tiêu mong muốn.
Một cách để huấn luyện các mô hình AI giữ chặt mục tiêu là cho phép chúng sử dụng phản ánh - trong đó một mô hình hoặc công việc kiểm tra định kỳ để đảm bảo những gì nó đang theo đuổi chỉ cân chỉnh với mục tiêu của nó. Nếu một mô hình hoặc công việc bắt đầu lạc đề, phần mềm có thể điều chỉnh công việc định kỳ để đảm bảo nó tiếp tục tập trung vào.
Agent tự động hóa dựa trên nhiệm vụ
Khi mục tiêu cuối cùng của việc cân chỉnh là độ chính xác và việc giám sát ranh giới, và vì tổng hợp là một cách tốt để làm điều đó, mục tiêu cuối cùng là phát triển một hệ thống các tác nhân. Mỗi tác nhân trở thành một chuyên gia về một chủ đề cụ thể.
Các LLMs được biến thành tác nhân và các tác nhân AI chung khác đang được phát triển và trong một số trường hợp đã được phát hành, và một hệ sinh thái tác nhân AI toàn diện đang nổi lên xung quanh chủ đề này.
Nhà nghiên cứu AI Yohei Nakajima đã xuất bản một bài báo trên blog của mình có tiêu đề "Tác nhân Tự động hóa Dựa trên Nhiệm vụ Sử dụng GPT-4, Pinecone và LangChain cho Các Ứng dụng Đa dạng".
LangChain là một bộ công cụ và tác nhân AI giúp nhà phát triển xây dựng các LLM được biến thành tác nhân qua cách tổng hợp.
Nakajima cũng có một bài viết trên blog được đặt tên là "Bùng nổ của Đại diện Tự động". Bài báo của Nakajima cho thấy các biểu đồ về một cách tiếp cận có thể của hệ thống LLM của các đại diện:
Hệ điều hành đại diện trí tuệ nhân tạo
e2b.dev đã phát hành EB2, mô tả nó như là một "Hệ điều hành cho Đại diện Trí tuệ Nhân tạo". Eb2.dev cũng đã phát hành một danh sách "Đại diện Trí tuệ Nhân tạo Tuyệt vời" trên GitHub. Cũng có một kho lưu trữ các SDK tuyệt vời cho các đại diện trí tuệ nhân tạo.
Trong tương lai, chúng ta có thể hình dung các hệ thống Trí tuệ Nhân tạo mà có thể thay đổi bằng cách chỉnh sửa các đại diện và LLM cho đến khi đạt được kết quả mong muốn. Có thể chúng ta sẽ thấy xuất hiện các hệ điều hành đại diện trí tuệ nhân tạo để xử lý những nhiệm vụ này cho chúng ta.
Ngoài các tài nguyên đã được đề cập ở trên, hãy kiểm tra thêm AI Tool Hub - và cụ thể hơn là Giới thiệu về Định hướng AI: Đưa Trí tuệ Nhân tạo làm việc vì nhân loại, cũng như Tầm quan trọng của Định hướng AI, được giải thích trong 5 điểm trên Diễn đàn Định hướng AI.
Cũng có một bài báo giới thiệu hay về chủ đề Định hướng AI có tiêu đề "Hiểu nghiên cứu Định hướng AI: Phân tích theo cách hệ thống" do Jan H. Kirchner, Logan Smith, Jacques Thibodeau và nhóm nghiên cứu khác viết.
Một công ty đại diện trí tuệ nhân tạo trực tuyến thú vị khác để kiểm tra là Cognosys.
Chúng ta sẽ phải đợi và xem tương lai đem lại gì cho lĩnh vực trí tuệ nhân tạo và định hướng, nhưng công việc để giảm thiểu một số rủi ro và khả năng tiềm ẩn mà trí tuệ nhân tạo có thể mang lại đã được tiến hành đầy sức mạnh.
