생성적 AI 혁명의 3년차에 접어들면서 인공 지능은 엄청난 변화를 겪고 있습니다. 초점은 빠르고 사전 훈련된 대응("빠른 생각")에서 추론 시 의도적이고 추론 중심의 지능("느린 생각")으로 전환되고 있습니다. 이러한 진화는 새로운 세대의 에이전트 애플리케이션을 구동하고 산업을 재편하며 가능성을 재정의하고 있습니다.

생성 AI의 기초 계층 안정화

생성 AI 시장은 핵심적인 안정화 단계에 도달했습니다. Microsoft/OpenAI, AWS/Anthropic, Meta, Google/DeepMind와 같은 업계 거물들이 기초 계층 내에서 입지를 강화했습니다. 상당한 자본과 효율적인 경제 모델에 힘입어 이러한 파트너십은 다음 토큰 예측을 더 빠르고 저렴하며 접근성 있게 만들었습니다.

그러나 기초층이 안정되면서 주목은 다음으로 옮겨갑니다. 추론 계층 — 의도적인 문제 해결 및 인지적 운영의 영역. 이 "시스템 2" 사고는 패턴 인식을 넘어 추론 시간에 추론하고 의사 결정을 내릴 수 있는 AI 모델에 초점을 맞춥니다. AlphaGo와 같은 발전에서 영감을 받은 이 계층은 AI가 복잡한 현실 세계의 문제를 해결하는 방식을 변화시키고 있습니다.

서비스로서의 소프트웨어(SaaS)에서 소프트웨어로서의 서비스로

생성적 AI는 경계를 허물고 SaaS 모델에서 혁신적인 패러다임으로 우리를 이끕니다. 소프트웨어로서의 서비스. 여기서 AI는 도구를 제공하는 데 그치지 않고 작업 자체를 수행합니다. 이러한 변화는 고객 지원, 사이버 보안, 소프트웨어 개발과 같은 산업을 재정의하면서 1조 달러 규모의 시장 기회를 열어줍니다.

가져가다 산맥, AI 기반 고객 지원 에이전트. 회사는 더 이상 소프트웨어 시트에 대해 비용을 지불하지 않고 해결된 문제당 비용을 지불합니다. 이러한 성과 중심 접근 방식은 측정 가능한 결과를 제공하는 서비스로서의 소프트웨어의 전형입니다. 마찬가지로, GitHub Copilot 개발자 지원에서 전체 코딩 워크플로 자동화로 발전했으며 석궁 지속적인 AI 기반 침투 테스트를 통해 사이버 보안을 혁신합니다.

추론 시간의 추론: 다음 프런티어

본능적 반응("시스템 1")에서 의도적인 추론("시스템 2")으로의 도약은 AI의 다음 혁신적 단계를 나타냅니다. OpenAI와 같은 모델은 o1(딸기) 이러한 변화를 개척하고 있으며 "추론 시간 컴퓨팅"을 도입하여 모델이 응답하기 전에 일시 중지하고 평가하고 추론할 수 있도록 합니다.

이 혁신은 이미 코딩, 수학, 과학 연구와 같은 분야에 혁명을 일으켰습니다. AlphaGo의 획기적인 의사 결정 프레임워크에서 영감을 얻은 이러한 발전은 전례 없는 인지 능력을 열어 AI가 점점 더 복잡해지는 과제를 해결할 수 있는 길을 열었습니다.

인지 아키텍처: 현실 세계의 복잡성 해결

일반 목적 추론 모델이 발전하는 동안 실제 세계 응용 프로그램에서는 다음이 요구됩니다. 도메인별 인지 아키텍처. 이러한 아키텍처는 인간의 작업 흐름을 모방하여 작업을 개별적이고 논리적인 단계로 나눕니다.

예를 들어, 공장의 드로이드 풀 리퀘스트 검토, 테스트 실행, 코드 병합과 같은 소프트웨어 엔지니어링 작업을 자동화합니다. 기반 모델을 애플리케이션 로직, 컴플라이언스 가드레일, 전문 데이터베이스와 결합함으로써 인지 아키텍처는 산업 요구 사항에 맞는 실용적이고 지능적인 솔루션을 만듭니다.

에이전트 응용 프로그램: 시장 재정의

생성 AI의 추론 기능은 다음과 같은 흐름을 주도하고 있습니다. 에이전트 응용 프로그램 — 주도권을 잡고 실질적인 결과를 제공하는 AI 도구. 예를 들면 다음과 같습니다.

• 하비: AI 기반 법률 보조원
• 줍다: AI 작업 보조
• 요약하다: AI 의료 기록 작성자
• 석궁: AI 펜테스터
• 산맥: AI 고객 지원 에이전트

이러한 서비스를 제공하는 데 드는 한계 비용을 줄임으로써 에이전트 애플리케이션은 모든 규모의 기업이 정교한 도구를 사용할 수 있도록 합니다. 예를 들어, XBOW의 자동화된 펜테스팅은 사이버 보안을 민주화하여 회사가 저렴하게 정기적인 평가를 수행할 수 있도록 합니다.

추론 시간 컴퓨팅 확장: AI의 미래

AI 혁신의 다음 장은 확장에 달려 있습니다. 추론 시간 계산. OpenAI의 o1 모델은 새로운 스케일링 법칙을 도입합니다. 추론 시간에 할당된 컴퓨팅이 많을수록 추론 기능이 더 좋아집니다. 이러한 변화는 추론 클라우드 — 작업 복잡성에 따라 컴퓨팅 리소스를 조정하는 동적 환경입니다.

몇 시간 또는 며칠 동안 추론할 수 있는 모델을 상상해 보세요. 이 기능은 수학, 생물학 및 기타 분야에서 획기적인 발견으로 이어질 수 있으며, 한때 극복 불가능하다고 여겨졌던 문제를 해결할 수 있습니다. 대규모 사전 훈련 클러스터에서 민첩한 추론 클라우드로의 전환은 AI 개발에서 중요한 이정표를 나타냅니다.

애플리케이션 계층의 기회

스타트업과 투자자에게 애플리케이션 계층은 혁신을 위한 가장 유망한 기회를 제공합니다. 하이퍼스케일러가 기초 계층을 지배하는 반면, 애플리케이션 계층은 다음을 생성할 수 있도록 합니다. 도메인별 솔루션 실제 세계의 문제를 정확하게 해결합니다.

맞춤형 인지 아키텍처와 추론 기능을 활용함으로써 스타트업은 워크플로에 원활하게 통합되는 도구를 설계하여 범용 모델과 실용적인 애플리케이션 간의 격차를 메울 수 있습니다.

마지막 생각

AI가 세상을 엄청난 속도로 변화시키고 있는 만큼, 비즈니스 환경을 변화시키는 방식도 마찬가지입니다. 예를 들어, 비즈니스가 경쟁하고 성장하는 방식입니다. 그 이유는 "제품을 만들거나, 서비스를 제공하고, 고객 경험을 제공하는 데 드는 생산 비용"이 예전의 몇 분의 1에 불과하기 때문입니다. AI 덕분에 "10배"라는 요소가 풀렸습니다.

GroundAI를 성장시키고 고객에게 서비스를 제공하면서 얻은 경험을 바탕으로 비즈니스와 AI의 미래에 대한 세 가지 개인적인 의견을 제시합니다.

1. PLG에서 ALG로의 진화. 고객 기반이 생산성 향상 속도로 확장되지 않았다는 점을 감안할 때 기존의 SLG(판매 주도 성장)와 PLG(제품 주도 성장)는 더 이상 효과적이지 않습니다. 따라서 성장은 유통 네트워크로 크게 기울어집니다. 청중에게 다가가는 새로운 접근 방식입니다. 저는 이를 ALG, 즉 청중 주도 성장이라고 불렀습니다. 핵심은 다양한 플랫폼에서 청중을 효과적으로 참여시키는 방법입니다.
2. 중국 기술 기업의 해외 진출이 가속화되고 있지만, 이야기는 두 도시에 관한 것이다.
   B2C 또는 대규모 B2B SaaS 회사($20 ~ $100/월), 예: talkie.ai, runcomfy.com이 형성되고 해당 분야에서 상위 3위에 올랐습니다. 이러한 스타트업 중 다수는 5명 미만의 개발팀으로 구성되어 있지만 매우 정교한 SEO 및 ALG 접근 방식으로 구동됩니다. 반면에 대형 SaaS/소프트웨어 회사(50K ~ 100 ACV)는 여전히 시장 점유율을 확보하기 위해 고군분투하고 있습니다. 그 이유는 제가 "창업자 시장 적합성"이라고 부르는 문제 때문입니다. 창업자는 중국 외부에 진출하고 확장하기 위한 일관된 실행 계획을 수립할 수 있는 사고방식을 현지화할 수 없지만, 그들 중 다수는 최대 연봉 35만 달러에 달하는 매력적인 제안을 통해 해외 인재를 적극적으로 채용하고 있습니다.
3. 소프트웨어로서의 서비스에서 "서비스로서의 소프트웨어"로의 패러다임 전환. LLM 기능은 우리가 예상했던 것보다 더 빨리 발전하고 있습니다. 예를 들어 OpenAi의 O1 및 O3의 추론 기능입니다. 그러나 이러한 기능을 비즈니스 클라이언트에게 제공하는 "마지막 단계"는 아직 없습니다. 이것이 우리가 AI 에이전트 서비스 스타트업의 급증을 보는 이유이지만, 슬프게도 그들은 단지 20 ~ 30%의 비즈니스 요구 사항만 해결합니다. 이것이 대부분의 AI 스타트업이 서비스를 제공하거나 "서비스"로 수익을 창출하는 이유입니다. 제 기사 "주요 AI SaaS가 한 달에 $20을 청구하는 이유"에 대한 답변.

생성적 AI는 소프트웨어와 서비스의 경계를 재정의하고 AI가 스스로 작업을 수행하는 시대를 열어가고 있습니다. 소프트웨어 즉 서비스 에게 서비스로서의 소프트웨어, 산업을 변화시키고 새로운 시장을 창출할 잠재력은 타의 추종을 불허합니다. 더 이상 인간의 지능을 모방하는 데 초점을 맞추지 않고 추론, 적응, 그리고 가능한 것을 재형성하는 결과를 제공하는 데 초점을 맞춥니다.

이제 문제는 AI가 진화할 수 있느냐가 아니라 AI가 우리의 업무 방식, 혁신 방식, 세상에서 가장 복잡한 문제 해결 방식을 어떻게 새롭게 정의할 것인가입니다.