Điều hướng LLM & GenAI Stack: Cơ hội và thách thức cho các công ty khởi nghiệp và doanh nghiệp Châu Á

Giới thiệu về Leo's Takes

Là cựu CDO của Huawei Cloud và đã xây dựng một trong những hệ sinh thái khởi nghiệp lớn nhất trong khu vực, tôi có quyền truy cập trực tiếp vào:

1. Tổ chức và nhóm phát triển chipset GPU, LLM (Mô hình ngôn ngữ lớn) và các LM khác (mô hình lớn);   
2. Các doanh nghiệp đang bắt đầu hành trình chuyển đổi AI của mình; và   
3. Các công ty khởi nghiệp AI từ cả phương Đông và phương Tây đang xây dựng chương trình LLM, công cụ và ứng dụng GenAI.

Điều này liên quan gì đến bạn?

• Nếu bạn là một giám đốc điều hành doanh nghiệp hoặc chuyên giaBài viết này sẽ cung cấp cho bạn cái nhìn toàn diện về bối cảnh công nghệ LLM và GenAI hiện tại cũng như những hiểu biết thực tế về các rủi ro và cơ hội tiềm ẩn.
• Nếu bạn là một người sáng lập hoặc nhà đầu tưBài viết này sẽ giúp bạn hiểu được những cạm bẫy và cơ hội thực sự trong hành trình theo đuổi AI của bạn.

Dưới đây là ý kiến của Leo, xuất phát từ sự kết hợp giữa kinh nghiệm và nghiên cứu thẩm định thị trường, bao gồm các hội thảo, phỏng vấn và thảo luận với những người hành nghề trong lĩnh vực có liên quan. Những người hành nghề này bao gồm các nhà phân tích nghiên cứu, nhà phát triển, giám đốc điều hành doanh nghiệp và người sáng lập, đảm bảo một góc nhìn toàn diện và đáng tin cậy.

Tình hình hiện tại của GenAI và LLM

Nền tảng công nghệ GenAI và LLM đã ổn định và mỗi lớp sau đây đều có mô hình kinh doanh, thách thức và cơ hội riêng. Việc hiểu các lớp này rất quan trọng để điều hướng bối cảnh AI và đưa ra quyết định kinh doanh sáng suốt.

Lớp 0 (Đám mây và Cơ sở hạ tầng) – “Nơi có tiền”

Lớp này là kim loại trần trụi hỗ trợ toàn bộ ngăn xếp GenAI. Nó chiếm tới 80%+ trong tổng giá trị của GenAI kinh tế. Mặc dù Nvidia chắc chắn đang thống trị, với gần 95% thị trường sản xuất chip (Nvidia đánh bại Apple với vốn hóa thị trường 3T), thị trường đang thu hút những ông lớn khác, ví dụ Hoa Vi. Jensen Huang xác định Huawei là một trong những đối thủ “đáng gờm” của NVIDIA, đặc biệt là trong thị trường chip AI. Trong khi đó, nó cũng thu hút các công ty khởi nghiệp, các nhà đổi mới ví dụ rượu Grog, đang tiếp cận thị trường bằng các chip chuyên dụng, LPU (bộ xử lý ngôn ngữ), tập trung vào hiệu suất và độ chính xác của suy luận AI. 

Ý kiến của Leo: Con hào lớn nhất mà Nvidia có không chỉ là các chipset mạnh mẽ mà còn là hệ sinh thái Cuda mà họ đã xây dựng trong nhiều năm. Nó hỗ trợ các nhà phát triển với:

• Ngôn ngữ và API khác nhau; 
• Thư viện và khung cho các tác vụ miền khác nhau; 
• Công cụ dành cho nhà phát triển; và 
• Đối tác hệ sinh thái

Trong khi những công ty khác như Huawei và AMD cung cấp các sản phẩm tương tự, khả năng sử dụng và sự phong phú của hệ sinh thái của họ lại ở các quy mô khác nhau. Điều này khiến các nhà phát triển cần nhiều nỗ lực hơn đáng kể để xây dựng các mô hình hoạt động với chip cơ bản, khiến chi phí di chuyển khỏi Nvidia sang các nhà sản xuất chip khác trở thành một rào cản đáng kể. Đối với một công ty niêm yết như AMD, quyết định tập trung vào phát triển hệ sinh thái là một thách thức vì nó đòi hỏi đầu tư dài hạn và sẽ không mang lại lợi nhuận ngắn hạn đến trung hạn. Huawei, là một công ty không phải là công ty đại chúng, có một lợi thế ở đây, nhưng các lệnh trừng phạt của Hoa Kỳ cũng cản trở sự tiến triển của công ty.  

Lớp 1 (Mô hình nền tảng & LLM) – “Ai có thể chế tạo quả bom lớn nhất?”

Công cụ của ngăn xếp GenAI cung cấp năng lượng cho tất cả các ứng dụng GenAI được điều khiển bởi những người có thể xây dựng các mô hình có khả năng nhất và điều này diễn ra trên phạm vi quốc tế cũng như trong nước, đặc biệt là ở Hoa Kỳ và Trung Quốc.     

• Cuộc đua giữa Anthropic và OpenAI – Mô hình Claude 3.5 Sonnet vượt trội hơn các mô hình của đối thủ cạnh tranh; Và
• Cuộc đua giữa LLM nguồn đóng và LLM nguồn mở và khoảng cách đã được thu hẹp với độ trễ từ 6 ~ 10 tháng.

Nguồn: Linkedin

• “Cuộc chiến hàng trăm LLM ở Trung Quốc”—cuộc chiến giá cả giữa hàng trăm nhà sản xuất LLM ở Trung Quốc đang diễn ra tăng cường. Bytedance đã chào bán mô hình của mình ở mức giá 10% so với giá thị trường vào cuối tháng 5 năm nay, tiếp theo là các mô hình của Alibaba Cloud và Baidu với mức giá tương tự. 

Và chúng ta đang bắt đầu chứng kiến một “Chiến tranh lạnh AI” giữa phương Tây và phương Đông. 

• OpenAI có kế hoạch chặn quyền truy cập API tại Trung Quốc từ ngày 9 tháng 7, thúc đẩy các nhà sản xuất LLM Trung Quốc cung cấp các giải pháp thay thế cho hàng chục nghìn nhà phát triển. Trung Quốc đã triển khai Biện pháp tạm thời cho Cơ quan quản lý Dịch vụ trí tuệ nhân tạo tạo ra vào năm 2023, nâng cao tiêu chuẩn cho việc phát triển LLM nước ngoài tại Trung Quốc. 
• Nghị quyết do Trung Quốc dẫn đầu về trí tuệ nhân tạo được thông qua tại Đại hội đồng Liên hợp quốc, đang tận dụng sức mạnh mềm để ủng hộ sự phát triển AI trong một môi trường 'tự do, cởi mở, toàn diện và không phân biệt đối xử', nhằm ứng phó với căng thẳng ngày càng gia tăng giữa Hoa Kỳ và Trung Quốc. 

Ý kiến của Leo: Bản chất của cuộc thi LLM không chỉ là về công nghệ, mà còn về “trí thông minh-bản thể” có nguồn gốc sâu xa trong văn hóa và ngôn ngữ của quốc gia hoặc khu vực. Ví dụ, khoản đầu tư $70M SGD của Singapore vào Chương trình Mô hình ngôn ngữ lớn đa phương thức quốc gia (LLM), được gọi là Sea-lion, là một minh chứng cho cái này.

Về mặt kỹ thuật, bối cảnh LLM cuối cùng sẽ hội tụ thành một số ít mô hình, bao gồm nguồn đóng và nguồn mở. Người dẫn đầu, chẳng hạn như OpenAI, có thể duy trì bước nhảy vọt 6 – 12 tháng trước những người khác. Các mô hình nguồn mở đang nhanh chóng thu hẹp khoảng cách, vì hầu hết các doanh nghiệp thích có tùy chọn mô hình nguồn mở, với mong muốn duy trì quyền kiểm soát và quyền riêng tư. Kết quả thăm dò tại diễn đàn AI của Economist Intelligence Network mà tôi đã nói chuyện tại Singapore vào năm ngoái - cho thấy hơn 70% cấp C mở cho LLM nguồn mở. 

Nguồn: AI Business Asia, Diễn đàn AI của The Economist Intelligence Singapore, 2023 

Các doanh nghiệp không còn đánh giá “sức mạnh” của LLM nữa; họ đã đẩy nhanh quá trình chuyển đổi GenAI của mình bằng các PoC nhanh chóng kể từ đầu năm 2024, mặc dù nó vẫn là xu hướng chính đối với PoC miễn phí hoặc với ngân sách từ $50K ~ $100K. Điều này đang tạo ra một “cơn bão hoàn hảo” cho các lớp trên và sự hội tụ của các lớp mới. 

Các lớp mới nổi và lớp mô hình miền – “Chiến trường của các công ty khởi nghiệp B2B” 

Mô hình dưới dạng dịch vụ (MaaS) là một lớp kết hợp giữa cơ sở hạ tầng và lớp mô hình nền tảng. Nó cung cấp cho các công ty khả năng truy cập dễ dàng vào sức mạnh của LLM với các mô hình được đào tạo trước và giảm chi phí vốn con người. Lớp hoạt động LLM là lớp công cụ giúp các công ty hợp lý hóa quy trình phát triển ứng dụng và xây dựng các mô hình dành riêng cho từng miền. Các mô hình dành riêng cho từng miền được đào tạo theo mục đích (tinh chỉnh) cho một ngành hoặc nhiệm vụ cụ thể. 

Ý kiến của Leo: Đây là chiến trường của các công ty khởi nghiệp B2B, những người đang cùng nhau cố gắng giải quyết một vấn đề – làm thế nào để xây dựng các ứng dụng GenAI với hiệu quả tối ưu? 

Hành trình phát triển và vận hành ứng dụng GenAI rất phức tạp và đã thu hút hàng nghìn công ty khởi nghiệp B2B tham gia vào lĩnh vực này vào năm 2024, tất cả đều tin vào ý tưởng “bán xẻng trong cơn sốt vàng”. Nhiều công ty trong số họ đang hoạt động tốt, ví dụ như Langchain, Flowiseai. Tuy nhiên, các lớp mới nổi là những không gian dễ biến động, chủ yếu là do tốc độ phát triển của lớp mô hình nền tảng (LLM). Các ranh giới và tính năng của LLM (các LLM) đang phát triển, khiến phiên bản LLM ban đầu trở nên lỗi thời, ví dụ GPT3.5 đang bị khấu hao và các tính năng và khả năng mới có thể trùng lặp với một số công cụ này đang được bổ sung. 

Các nhà cung cấp dịch vụ đám mây đang tham gia vào không gian MaaS, nơi cung cấp các mô hình nguồn mở được đào tạo trước dưới dạng API; cuối cùng, đó là cuộc cạnh tranh của Tokens per Second và các chi phí liên quan. Mặc dù vậy, những công ty như Huggingface, nơi đã xây dựng các mô hình của họ và tuyển chọn một cộng đồng nhà phát triển tuyệt vời, vẫn đang phát triển mạnh mẽ; ví dụ, ước tính Huggingface đã tạo ra $70M ARR vào năm ngoái. Tôi ủng hộ điều này, nhưng tôi tin rằng doanh thu này phần lớn được quy cho đối tác AWS của họ thay vì các nhà phát triển dựa trên chia sẻ doanh thu suy luận AI. 

Vậy thì điều rút ra ở đây là gì? Trong tất cả năm lớp, đây là không gian yêu thích của tôi và tôi vô cùng kính trọng những người xây dựng và sáng lập trong không gian này. Họ là những người tạo ra "nhiều nhân tố" giúp toàn bộ hệ sinh thái mang lại kết quả và giá trị tốt hơn. Trong khi đó, rủi ro khá cao đối với các công ty khởi nghiệp và nhà đầu tư, nhưng phần thưởng cũng vậy. 

Vì vậy, cho dù bạn là người sáng lập hay nhà đầu tư, tôi tin rằng ba yếu tố thành công chính (theo trình tự này) là:

1. Khán giả là trên hết; 
2. Vấn đề thứ hai đến; và
3. Cuối cùng là sản phẩm của bạn.      

Điều quan trọng cần lưu ý là đối tượng của bạn không nhất thiết là khách hàng của bạn. Trong nhiều trường hợp, trước tiên bạn có thể cần phát triển cộng đồng đối tượng của mình và tạo doanh thu từ các nguồn khác, như trong trường hợp của Huggingface.

Lớp 3 (Ứng dụng GenAI) – “Cần tốc độ”

Đây là lớp khốc liệt nhất trong tất cả các lớp, chủ yếu được thúc đẩy bởi các ứng dụng và công cụ GenAI B2C. a16z đã công bố 50 sản phẩm web GenAI hàng đầu; dựa trên các lượt truy cập hàng tháng, báo cáo cho thấy hơn 40 phần trăm các công ty trong danh sách là mới, so với báo cáo ban đầu của chúng tôi vào tháng 9 năm 2023. Loại doanh thu này ảnh hưởng đến khả năng và tốc độ hoàn thành sản phẩm-thị trường-phù hợp (PMF) của công ty. Điều này thúc đẩy hầu hết các công ty B2C này bao quanh một số LLM (các) nổi tiếng, chẳng hạn như GPT4 và Llama3, mà các nhà đầu tư thường chỉ trích là một công ty bao bọc. 

Nguồn: a16z

Ý kiến của Leo: Không có gì đáng xấu hổ khi là một công ty đóng gói, vì sản phẩm cuối cùng làm hài lòng khách hàng của bạn là sản phẩm quan trọng nhất. Khi các LLM cơ bản đang trở thành một mặt hàng, cách bạn sắp xếp AI, ví dụ như độ trễ, tích hợp quy trình làm việc và UI, sẽ quan trọng nhất. Trên phương diện đó, tác nhân con người là yếu tố quan trọng nhất của sản phẩm. 

Tôi đã phỏng vấn hơn 100 công ty khởi nghiệp AI, từ giai đoạn hạt giống đến kỳ lân, giữa phương Tây (ví dụ: Hoa Kỳ và EU) và phương Đông (ví dụ: Trung Quốc và Singapore) kể từ năm 2023. Hai bên cho thấy những cách tiếp cận rất khác nhau để đưa ra thị trường; các công ty khởi nghiệp của Hoa Kỳ rất tập trung vào sản phẩm, trong khi các công ty khởi nghiệp Trung Quốc linh hoạt hơn nhiều về dịch vụ. Lý do chính là thị trường Châu Á đòi hỏi nhiều tùy chỉnh hơn. Đây là một trong những yếu tố của con người có ý nghĩa đối với sự thành công của các công ty ứng dụng. Đối với điều đó, tôi không có ý nói đến việc tạo ra một ứng dụng có thể tùy chỉnh đến mức bạn có thể mở rộng quy mô, mà là khả năng nhanh chóng tạo ra một ứng dụng có tính năng cụ thể và phục vụ cho một không gian hoặc đối tượng thích hợp. Trung Quốc không còn là công xưởng thế giới mà bạn biết, nơi sản xuất ra các sản phẩm tiêu dùng mà bạn sử dụng hàng ngày. Hiện tại, nơi này đang chuẩn bị trở thành công xưởng thế giới về các ứng dụng AI, đặc biệt là khi các ứng dụng GenAI ngày càng phổ biến.

Kiểm tra bài đăng của tôi, “Một sự thay đổi lớn trong việc xây dựng một công ty khởi nghiệp trị giá hàng triệu đô la trong vòng chưa đầy một năm nếu bạn áp dụng đúng cách.”     

Nguồn gốc bí mật đằng sau thành công của họ là gì? 

Tác động đến các doanh nghiệp và công ty khởi nghiệp Châu Á

Đánh giá LLM và GenAI là tiến trình công nghệ nhanh nhất trong lịch sử loài người, và nó không chậm lại mà đang tăng tốc. Thách thức lớn nhất đối với các cấp C và người sáng lập không phải là lựa chọn mô hình và ứng dụng mà là giải quyết những khoảng cách kiến thức ngày càng tăng và xây dựng chiến lược và thực hiện để đảm bảo AI hoạt động cho họ.

Châu Á là một thị trường đầy thách thức và hứa hẹn, là châu lục đông dân nhất và không đồng nhất. Tuy nhiên, thị trường này thường ít được các nhà sản xuất AI tại Hoa Kỳ quan tâm. Ví dụ, OpenAI chỉ mới mở văn phòng đầu tiên tại Tokyo trong năm nay và phần lớn các công ty khởi nghiệp AI tại Hoa Kỳ mà tôi đã nói chuyện chỉ tập trung vào Hoa Kỳ và EU. Ví dụ, Huggingface chỉ có một vài nhân viên tại Châu Á. Tình hình này vừa là vấn đề vừa là cơ hội cho những người sáng lập và doanh nghiệp của Châu Á, và điều quan trọng là phải nhận thức được những động lực này.