Đánh giá về những điểm chính được thảo luận trong tập 2 của Podcast AI Business Asia với Lewis Liu, Trưởng nhóm sản phẩm tại Google Gemini và Vertex AI.

Nếu bạn muốn xem tập phim → Spotify | Quả táo 

Trong thế giới trí tuệ nhân tạo (AI) phát triển nhanh chóng, đặc biệt là trong các mô hình ngôn ngữ lớn (LLM), những tiến bộ đang diễn ra với tốc độ chưa từng có. Bản tóm tắt này khám phá những phát triển gần đây trong cách tiếp cận LLM của Google, bao gồm sự chuyển dịch sang các lần ra mắt gia tăng, tích hợp các tính năng sáng tạo và bối cảnh cạnh tranh với các mô hình toàn cầu. Chúng tôi cũng đi sâu vào vai trò của dữ liệu, lợi thế của dữ liệu của bên thứ nhất và trải nghiệm AI sẵn sàng cho doanh nghiệp đòi hỏi những gì.

Những tiến bộ của Google trong LLM

Trong năm qua, nhóm của Google đã tăng tốc đáng kể tốc độ ra mắt LLM, cung cấp khoảng 200 bản cập nhật so với 20-30 bản ra mắt trong những năm trước, tăng gấp mười lần. Sự thay đổi này phản ánh sự chuyển dịch từ các bản phát hành truyền thống, quy mô lớn sang phương pháp tiếp cận gia tăng, nhanh nhẹn hơn. 

Tính năng sáng tạo

• Thế hệ được kiểm soát: Google đã giới thiệu tính năng tạo được kiểm soát với giải mã được kiểm soát. Khả năng này cho phép các nhà phát triển cung cấp lược đồ cho mô hình, đảm bảo rằng các đối tượng JSON được tạo ra chính xác 100% và tuân thủ các lược đồ đã chỉ định. Tính năng này lần đầu tiên được cung cấp với mô hình Gemini 1.5 Pro và gần đây đã được OpenAI áp dụng.
• Bộ nhớ đệm ngữ cảnh: Một cải tiến khác là bộ nhớ đệm ngữ cảnh, giúp quản lý các cửa sổ ngữ cảnh mở rộng, với Google tiên phong trong việc mở rộng cửa sổ ngữ cảnh lên tới 2 triệu mã thông báo. Những tiến bộ này làm nổi bật cam kết của Google trong việc nâng cao khả năng của mô hình và trải nghiệm của người dùng.

Vị trí cạnh tranh

Giữa những nhận định rằng Google thiếu lợi thế cạnh tranh, công ty đã tập trung vào đổi mới nhanh chóng và phản ứng với những tiến bộ toàn cầu trong AI. Cuộc thảo luận cũng đề cập đến những thách thức và cơ hội do các mô hình mới nổi từ Trung Quốc mang lại, nơi những tiến bộ trong xử lý ngữ cảnh dài và tinh chỉnh cho tiếng Trung là đáng chú ý.

Bối cảnh toàn cầu của các mô hình AI

Các mô hình từ Trung Quốc

Các mô hình được phát triển tại Trung Quốc đang thu hút sự chú ý vì khả năng của chúng, đặc biệt là trong việc xử lý các ngữ cảnh dài và điều chỉnh phản hồi theo ngôn ngữ Trung Quốc. Cuộc trò chuyện cho thấy rằng mặc dù Google theo dõi những diễn biến này, công ty không trực tiếp tham gia vào thị trường Trung Quốc do các hạn chế về quy định.

Nhận dạng và quốc tịch trong AI

Một chủ đề thảo luận quan trọng là liệu LLM có nên có bản sắc quốc gia hay bị ảnh hưởng bởi ranh giới địa lý hay không. Sự đồng thuận là trong khi các mô hình phản ánh sự thiên vị và bản sắc của người tạo ra chúng, thì việc đầu tư nhiều vào các mô hình quốc gia có thể không cần thiết. Thay vào đó, việc tinh chỉnh cho các trường hợp sử dụng cụ thể có thể thực tế hơn.

Vai trò của dữ liệu trong phát triển LLM

Tầm quan trọng của dữ liệu chất lượng cao

Dữ liệu chất lượng cao vẫn là nền tảng của việc đào tạo LLM hiệu quả. Trong lĩnh vực AI tạo sinh, chất lượng và tính đa dạng của dữ liệu ảnh hưởng trực tiếp đến khả năng tạo ra các đầu ra chính xác, có liên quan và có nhận thức về ngữ cảnh của mô hình. Dữ liệu tổng hợp, khi được tích hợp một cách chu đáo, có thể mở rộng ranh giới về những gì LLM có thể đạt được, đặc biệt là trong các tình huống mà dữ liệu thực tế có thể bị hạn chế hoặc thiên vị. Sự tiến triển của LLM ngày càng được thúc đẩy bởi các nguồn dữ liệu đa dạng, bao gồm tương tác giữa người và máy tính, giúp tăng cường khả năng lý luận, lập kế hoạch và tạo ra các phản hồi sắc thái hơn của mô hình.

Dữ liệu và cơ sở hạ tầng của bên thứ nhất

• Thách thức cho các công ty khởi nghiệp: Các công ty khởi nghiệp phải đối mặt với những thách thức đáng kể khi cạnh tranh với các doanh nghiệp lớn có quyền truy cập vào lượng lớn dữ liệu của bên thứ nhất. Việc các công ty như Google tập trung vào dữ liệu độc quyền và cơ sở hạ tầng mạnh mẽ nhấn mạnh vai trò quan trọng của các yếu tố này trong việc tạo ra các ứng dụng LLM khác biệt. Đối với các công ty khởi nghiệp, việc không có quyền truy cập vào dữ liệu của bên thứ nhất có thể là một rào cản đáng kể, khiến việc khám phá các phương pháp tiếp cận sáng tạo để thu thập dữ liệu và đào tạo mô hình trở nên cần thiết.
• Tuân thủ quy định: Việc đưa AI vào nền tảng thông tin thực tế, đáng tin cậy là rất quan trọng để phát triển các giải pháp sẵn sàng cho doanh nghiệp. Trong bối cảnh AI tạo ra, việc đưa vào nền tảng đảm bảo rằng các đầu ra do mô hình tạo ra không chỉ chính xác mà còn phù hợp với bối cảnh và quy định của thế giới thực. Điều này đặc biệt quan trọng trong các ứng dụng doanh nghiệp có rủi ro cao và chi phí cho sự không chính xác có thể rất lớn. Việc tuân thủ quy định là một khía cạnh thiết yếu khác, vì nó đảm bảo rằng các giải pháp AI hoạt động trong khuôn khổ pháp lý của các ngành mà chúng phục vụ, giảm nguy cơ phức tạp về mặt pháp lý và thúc đẩy lòng tin giữa người dùng.

Xây dựng trải nghiệm AI sẵn sàng cho doanh nghiệp

Việc áp dụng AI cho doanh nghiệp đòi hỏi phải cân nhắc cẩn thận một số yếu tố chính để đảm bảo triển khai thành công và tạo ra giá trị: 

1. Khả năng của nền tảng: Các doanh nghiệp cần nhiều hơn là một mô hình hoặc API. Một nền tảng toàn diện phải hỗ trợ tinh chỉnh, đánh giá và chắt lọc mô hình. Các tính năng cộng tác rất quan trọng, cho phép các nhóm làm việc cùng nhau trên các lời nhắc và theo dõi các thay đổi một cách hiệu quả.
2. Bảo mật và quyền riêng tư: Các biện pháp bảo mật mạnh mẽ là tối quan trọng. Ví dụ, Google triển khai mã hóa mạnh để đảm bảo dữ liệu khách hàng không thể truy cập được đối với nhân viên. Mức độ bảo vệ dữ liệu này rất quan trọng để duy trì sự tin cậy và tuân thủ các quy định1.
3. Khả năng mở rộng: Khả năng triển khai các mô hình ở quy mô lớn là điều cần thiết cho các ứng dụng doanh nghiệp. Điều này bao gồm các cân nhắc về hiệu quả chi phí và tối ưu hóa hiệu suất.
4. Sự thật và căn cứ: Các doanh nghiệp cần hệ thống AI cung cấp thông tin chính xác, có thực. Các kỹ thuật như Retrieval Augmented Generation (RAG) có thể giúp đưa phản hồi AI vào các nguồn dữ liệu đã xác minh, giảm ảo giác và cải thiện độ tin cậy.
5. Tích hợp với các hệ thống hiện có: Để đạt hiệu quả tối đa, AI phải tích hợp liền mạch với các công cụ và quy trình làm việc hiện có của tổ chức. Cách tiếp cận của Google khi kết hợp Gemini vào các ứng dụng được sử dụng rộng rãi như Gmail và Calendar là một ví dụ điển hình cho chiến lược này.
6. Tùy chỉnh và tinh chỉnh: Khả năng điều chỉnh các mô hình theo nhu cầu cụ thể của ngành hoặc dữ liệu công ty là rất quan trọng. Điều này cho phép các doanh nghiệp tận dụng AI cho các trường hợp sử dụng riêng và thông tin độc quyền của họ.
7. Tuân thủ và tuân thủ quy định: Các giải pháp AI doanh nghiệp phải được thiết kế có tính đến các yêu cầu về quy định, đảm bảo đáp ứng các tiêu chuẩn cụ thể của ngành và luật bảo vệ dữ liệu.
8. Quản lý chi phí: Trong khi một số khả năng của LLM đang trở nên phổ biến, các doanh nghiệp phải cân bằng giữa chất lượng, độ trễ và chi phí khi lựa chọn và triển khai các giải pháp AI.
9. Đánh giá liên tục: Với tốc độ phát triển nhanh chóng của AI, các doanh nghiệp nên triển khai các khuôn khổ để đánh giá liên tục các mô hình AI bằng dữ liệu và trường hợp sử dụng của riêng họ, thay vì chỉ dựa vào các chuẩn mực công khai.
10. Những cân nhắc về mặt đạo đức: Phát triển và triển khai AI có trách nhiệm phải là ưu tiên hàng đầu, giải quyết các thành kiến tiềm ẩn và đảm bảo sử dụng công nghệ AI một cách công bằng và có đạo đức

Sau đây là một số Nghiên cứu điển hình về Google Cloud GenAI:

Ngân hàng liên bang

• Tương tác Chatbot nâng cao:Sử dụng Vertex AI để tạo ra chatbot Feddy giống con người hơn và mang tính cá nhân hóa hơn.
• Hỗ trợ đa ngôn ngữ 24/7: Triển khai AI để phục vụ khách hàng đa ngôn ngữ 24/7.
• Tích hợp API: Phát triển cổng thông tin API để hợp lý hóa hoạt động hợp tác FinTech và cải thiện bảo mật.
• Hiệu quả của nhân viên: Tạo ứng dụng di động với Firebase để tăng năng suất làm việc của nhân viên.
• Bảo mật dữ liệu: Sử dụng Cloud Armor để bảo vệ chống lại các cuộc tấn công DDoS và đảm bảo tuân thủ dữ liệu.

Con ruồi bí ẩn

• Khách hàng mới: Đã tạo ra Mystic, một chatbot AI sử dụng Vertex AI, để đơn giản hóa quá trình tiếp nhận người dùng và giảm nhu cầu hỗ trợ của nhân viên.
• Tự phục vụ nâng cao:Mystic xử lý các truy vấn phức tạp, cải thiện sự hài lòng của người dùng.
• Khả năng mở rộng:Chatbot AI xử lý nhiều truy vấn cùng lúc và chuyển các vấn đề chưa được giải quyết đến nhân viên con người.

CoRover

• Phát triển BharatGPT: Xây dựng nền tảng AI đa ngôn ngữ bằng Vertex AI, cho phép các thương hiệu trò chuyện với khách hàng bằng ngôn ngữ bản địa.
• Tùy chỉnh và Bảo mật: Cung cấp khả năng sử dụng dữ liệu linh hoạt với cơ sở hạ tầng an toàn của Google.
• Khả năng mở rộng: Sử dụng tính năng tự động mở rộng của Kubernetes Engine để quản lý lưu lượng truy cập cao điểm một cách hiệu quả.
• Hợp tác sáng tạo: Hợp tác với Google Cloud để liên tục đổi mới và cung cấp các giải pháp tập trung vào khách hàng.

Lời khuyên cho các công ty khởi nghiệp và giám đốc điều hành

Dành cho các công ty khởi nghiệp

Hãy nhanh nhẹn: Sự phát triển nhanh chóng của công nghệ AI đòi hỏi các công ty khởi nghiệp phải luôn nhanh nhẹn và phản ứng nhanh. Việc xây dựng lộ trình dài hạn có thể là thách thức do bản chất không thể đoán trước của những tiến bộ công nghệ. Các công ty khởi nghiệp nên tập trung vào việc nhanh chóng thích ứng với những phát triển mới và thử nghiệm các công nghệ mới nổi.

Dành cho giám đốc điều hành

Đánh giá các trường hợp sử dụng: Các giám đốc điều hành được khuyến khích nhìn xa hơn sự cường điệu và chuẩn mực khi triển khai các chiến lược AI. Điều quan trọng là phải đánh giá các mô hình dựa trên các trường hợp sử dụng thực tế và đánh giá chúng bằng dữ liệu của chúng. Các chuẩn mực công khai có thể không phải lúc nào cũng phản ánh hiệu suất của mô hình trong các tình huống thực tế, vì vậy việc thử nghiệm thực tế là điều cần thiết.

Phần kết luận

Bối cảnh của các mô hình ngôn ngữ lớn đang phát triển nhanh chóng, với những tiến bộ đáng kể đến từ cả những người chơi đã thành danh như Google và các mô hình mới nổi trên toàn cầu. Những cải tiến như thế hệ được kiểm soát và bộ nhớ đệm ngữ cảnh đang thiết lập các tiêu chuẩn mới cho khả năng của LLM. Khi công nghệ AI tiếp tục phát triển, việc hiểu được vai trò của dữ liệu, tác động của các ảnh hưởng địa lý và tầm quan trọng của phát triển nhanh sẽ là chìa khóa để luôn dẫn đầu trong lĩnh vực năng động này. 

Đối với các công ty khởi nghiệp và giám đốc điều hành, việc duy trì sự nhanh nhẹn và tập trung vào các ứng dụng thực tế sẽ rất quan trọng trong việc định hướng tương lai của AI và đảm bảo triển khai thành công.

Hãy đảm bảo bạn đã đăng ký để nhận thông báo về podcast trong tương lai của chúng tôi. các tập → Youtube | Spotify | Quả táo  | RSS