Họ đã thay đổi thế giới bằng cách viết phần mềm. Nhưng các chuyên gia công nghệ cũng được biết đến với việc viết các văn bản dài dòng, những bản văn nổi tiếng nhất đã đánh dấu những bước ngoặt quan trọng trong lĩnh vực máy tính. Hãy nghĩ đến bản ghi nhớ "đợt dòng nước tri thức Internet" của Bill Gates năm 1995, đã tái định hướng Microsoft đến web; hoặc bản ghi nhớ "sự ủy quyền API" của Jeff Bezos năm 2002, đã mở ra cơ sở hạ tầng kỹ thuật số của Amazon, mở đường cho đám mây tính hiện đại. Bây giờ, những người chuyên về công nghệ đang rạo rực về một bản ghi nhớ khác, lần này bị rò rỉ từ bên trong Google, mang tiêu đề "Chúng ta không có pháo đài". Tác giả không xác định nói về tiến bộ đáng kinh ngạc đang được đạt được trong trí tuệ nhân tạo (AI) - và thách thức một số giả thuyết đã được giữ lâu về sức mạnh trong ngành công nghiệp đang tiến nhanh này.
AI tiên tiến vào thị giác công chúng với sự ra mắt vào cuối năm 2022 của ChatGPT, một trợ lý trò chuyện được cung cấp bởi một "mô hình ngôn ngữ lớn" (LLM) được tạo bởi OpenAI - một startup liên kết chặt chẽ với Microsoft. Thành công của nó đã thúc đẩy Google và các công ty công nghệ khác phát hành các trợ lý trò chuyện được cung cấp bởi LLM. Các hệ thống như vậy có thể tạo ra văn bản và duy trì các cuộc hội thoại thực tế bởi vì chúng đã được huấn luyện bằng hàng nghìn tỉ từ được lấy từ Internet. Đào tạo một LLM lớn mất tháng và có chi phí hàng chục triệu đô la. Điều này dẫn đến những lo ngại rằng AI sẽ bị chiếm ưu thế bởi một vài công ty có ngân sách lớn.
Nhưng giả thiết này là sai, như bản ghi nhớ Google. Nó lưu ý rằng các nhà nghiên cứu trong cộng đồng mã nguồn mở, sử dụng tài nguyên trực tuyến miễn phí, hiện đang đạt được kết quả tương đương với những mô hình độc quyền lớn nhất. Nói ra rằng LLM có thể được "điều chỉnh tốt hơn" bằng một kỹ thuật gọi là tinh chỉnh bằng chiều thấp, hay LoRa. Điều này cho phép một LLM hiện có được tối ưu hóa cho một nhiệm vụ cụ thể nhanh hơn và rẻ hơn nhiều so với việc đào tạo một LLM từ đầu.
Hoạt động trong AI mã nguồn mở bùng nổ vào tháng ba, khi một mô hình được tạo ra bởi Meta, là công ty mẹ của Facebook, được rò rỉ trực tuyến. Mặc dù nó nhỏ hơn các LLM lớn nhất (phiên bản nhỏ nhất của nó có 7 tỷ tham số, so với 540 tỷ cho PaLM của Google) nhưng nó đã nhanh chóng được điều chỉnh tốt với các kết quả tương đương với phiên bản ban đầu của ChatGPT trên một số nhiệm vụ. Khi các nhà nghiên cứu mã nguồn mở tiếp tục xây dựng công việc của nhau với LLaMa, "một sự đổ dầu quá lớn về đổi mới đã xảy ra ", tác giả của bản ghi nhớ viết.
Điều này có thể có tác động địa chấn đối với tương lai của ngành công nghiệp. "Rào cản đối với việc đào tạo và thử nghiệm đã giảm từ tổng dòng ra của một tổ chức nghiên cứu lớn xuống còn một người, một buổi tối và một chiếc laptop tốt," bản ghi nhớ Google khẳng định. Một LLM hiện có thể được điều chỉnh tốt hơn với giá $ 100 trong một vài giờ. Với mô hình di chuyển nhanh, hợp tác và chi phí thấp, "mã nguồn mở có một số ưu điểm đáng kể mà chúng ta không thể tái tạo." Do đó, tiêu đề của bản ghi nhớ: điều này có nghĩa là Google có thể không có "cống đồng" phòng thủ chống lại các đối thủ mã nguồn mở. Cũng như OpenAI .
Không phải ai cũng đồng ý với luận điểm này. Đúng là Internet chạy trên phần mềm mã nguồn mở. Nhưng con người sử dụng phần mềm độc quyền có phí, từ Adobe Photoshop đến Microsoft Windows, cũng như vậy. AI có thể tìm thấy một cân bằng tương tự. Hơn nữa, kiểm tra hệ thống AI được biết đến là rất khó khăn. Tuy nhiên, ngay cả khi bản ghi nhớ phần nào đúng, ngụ ý của nó là có thể tiếp cận với công nghệ AI sẽ được phổ cập hóa nhiều hơn so với những gì có thể đạt được cách đây một năm. Các LLM mạnh mẽ có thể được chạy trên một máy tính xách tay; bất cứ ai muốn cũng có thể điều chỉnh AI của riêng họ.
Điều này có cả những tác động tích cực và tiêu cực. Phía tích cực, nó làm cho sự kiểm soát độc quyền của AI bởi một vài công ty trở nên ít có khả năng hơn. Nó sẽ làm cho việc tiếp cận với AI rẻ hơn nhiều, gia tăng sự đổi mới trên toàn lĩnh vực và làm cho việc nghiên cứu hành vi của các hệ thống AI dễ dàng hơn (sự tiếp cận của họ với các mô hình chuyên quyền bị giới hạn), tăng tính minh bạch và an toàn. Nhưng việc truy cập dễ dàng hơn vào AI cũng có nghĩa là các tên độc ác sẽ có thể định hình lại các hệ thống vì mục đích xấu, chẳng hạn như tạo ra thông tin sai lệch. Nó có nghĩa là nỗ lực phương Tây nhằm ngăn chặn các chế độ thù địch tiếp cận công nghệ AI mạnh mẽ sẽ thất bại. Và nó làm cho AI khó được điều chỉnh, vì thần đèn đã thoát ra khỏi chai.
Liệu Google và những người cùng họ có thật sự đã mất "pháo đài" của họ trong AI sẽ sớm trở nên rõ ràng. Nhưng như những bản ghi nhớ trước đó, điều này cảm giác như một bước ngoặt khác cho máy tính. ■
