Ein Rückblick auf die wichtigsten Punkte, die in der 2. Folge des AI Business Asia Podcasts mit Lewis Liu, Group Product Manager bei Google Gemini und Vertex AI, besprochen wurden.

Wenn Sie sich die Folge ansehen möchten → Spotify | Apfel 

In der schnelllebigen Welt der künstlichen Intelligenz (KI), insbesondere bei großen Sprachmodellen (LLMs), finden Fortschritte in beispiellosem Tempo statt. Dieser Rückblick untersucht die jüngsten Entwicklungen in Googles Ansatz für LLMs, einschließlich der Verlagerung hin zu inkrementellen Markteinführungen, der Integration innovativer Funktionen und der Wettbewerbslandschaft mit globalen Modellen. Wir gehen auch auf die Rolle von Daten, die Vorteile von First-Party-Daten und die Anforderungen an eine unternehmensreife KI-Erfahrung ein.

Googles Fortschritte bei LLMs

Im vergangenen Jahr hat das Team von Google das Tempo der LLM-Einführungen deutlich beschleunigt und etwa 200 Updates bereitgestellt, verglichen mit den 20-30 Einführungen in den Vorjahren – eine Verzehnfachung. Diese Verschiebung spiegelt den Übergang von traditionellen, groß angelegten Veröffentlichungen zu einem agileren, inkrementellen Ansatz wider. 

Innovative Funktionen

• Kontrollierte Erzeugung: Google hat eine kontrollierte Generierungsfunktion mit kontrollierter Dekodierung eingeführt. Diese Funktion ermöglicht es Entwicklern, dem Modell ein Schema bereitzustellen und so sicherzustellen, dass die generierten JSON-Objekte 100%-genau sind und den angegebenen Schemata entsprechen. Diese Funktion wurde erstmals mit dem Gemini 1.5 Pro-Modell bereitgestellt und kürzlich von OpenAI übernommen.
• Kontext-Caching: Eine weitere Innovation ist das Kontext-Caching, das bei der Verwaltung umfangreicher Kontextfenster hilft. Google hat als erster Anbieter ein Kontextfenster mit bis zu 2 Millionen Token entwickelt. Diese Fortschritte unterstreichen Googles Engagement, die Modellfunktionen und das Benutzererlebnis zu verbessern.

Wettbewerbspositionierung

Da Google den Eindruck hat, dass es ihm an Wettbewerbsvorteilen mangelt, konzentriert sich das Unternehmen auf schnelle Innovationen und reagiert auf globale Fortschritte im Bereich der künstlichen Intelligenz. Die Diskussion berührt auch die Herausforderungen und Chancen, die sich durch neue Modelle aus China ergeben, wo Fortschritte bei der Verarbeitung langer Kontexte und der Feinabstimmung für chinesische Sprachen bemerkenswert sind.

Die globale Landschaft der KI-Modelle

Modelle aus China

In China entwickelte Modelle gewinnen aufgrund ihrer Fähigkeiten an Aufmerksamkeit, insbesondere im Umgang mit langen Kontexten und der Anpassung von Antworten an chinesische Sprachen. Das Gespräch zeigt, dass Google diese Entwicklungen zwar beobachtet, sich aufgrund regulatorischer Einschränkungen jedoch nicht direkt auf dem chinesischen Markt engagiert.

Identität und Nationalität in der KI

Ein wichtiges Diskussionsthema ist, ob LLMs eine nationale Identität haben oder von geografischen Grenzen beeinflusst werden sollten. Es herrscht Einigkeit darüber, dass Modelle zwar die Vorurteile und Identitäten ihrer Schöpfer widerspiegeln, aber umfangreiche Investitionen in nationale Modelle möglicherweise nicht notwendig sind. Stattdessen könnte eine Feinabstimmung für bestimmte Anwendungsfälle praktischer sein.

Die Rolle von Daten bei der LLM-Entwicklung

Bedeutung qualitativ hochwertiger Daten

Qualitativ hochwertige Daten bleiben der Eckpfeiler für die Ausbildung effektiver LLMs. Im Bereich der generativen KI beeinflussen Qualität und Vielfalt der Daten direkt die Fähigkeit des Modells, genaue, relevante und kontextbezogene Ergebnisse zu generieren. Synthetische Daten können, wenn sie sorgfältig integriert werden, die Grenzen dessen erweitern, was LLMs leisten können, insbesondere in Szenarien, in denen reale Daten begrenzt oder verzerrt sein könnten. Die Weiterentwicklung von LLMs wird zunehmend von vielfältigen Datenquellen vorangetrieben, einschließlich Mensch-Computer-Interaktionen, die die Fähigkeit der Modelle verbessern, logisch zu denken, zu planen und differenziertere Antworten zu generieren.

First-Party-Daten und -Infrastruktur

• Herausforderungen für Startups: Startups stehen vor großen Herausforderungen, wenn sie mit großen Unternehmen konkurrieren, die Zugriff auf riesige Mengen an First-Party-Daten haben. Die Betonung von proprietären Daten und einer robusten Infrastruktur durch Unternehmen wie Google unterstreicht die entscheidende Rolle, die diese Elemente bei der Erstellung differenzierter LLM-Anwendungen spielen. Für Startups kann der fehlende Zugriff auf First-Party-Daten eine erhebliche Hürde darstellen, weshalb es unerlässlich ist, innovative Ansätze zur Datenerfassung und Modellschulung zu erkunden.
• Einhaltung gesetzlicher Vorschriften: Für die Entwicklung unternehmensreifer Lösungen ist es entscheidend, KI mit sachlichen, zuverlässigen Informationen zu untermauern. Im Kontext der generativen KI stellt diese Untermauerung sicher, dass die vom Modell erzeugten Ergebnisse nicht nur genau sind, sondern auch mit dem realen Kontext und den Vorschriften übereinstimmen. Dies ist insbesondere bei Unternehmensanwendungen wichtig, bei denen viel auf dem Spiel steht und die Kosten von Ungenauigkeiten erheblich sein können. Die Einhaltung gesetzlicher Vorschriften ist ein weiterer wesentlicher Aspekt, da sie sicherstellt, dass KI-Lösungen im rechtlichen Rahmen der Branchen funktionieren, in denen sie eingesetzt werden. Dadurch wird das Risiko rechtlicher Komplikationen verringert und das Vertrauen der Benutzer gestärkt.

Aufbau einer unternehmensreifen KI-Erfahrung

Bei der Einführung von KI in Unternehmen müssen mehrere Schlüsselfaktoren sorgfältig berücksichtigt werden, um eine erfolgreiche Implementierung und Wertschöpfung sicherzustellen: 

1. Plattformfunktionen: Unternehmen benötigen mehr als nur ein Modell oder eine API. Eine umfassende Plattform sollte die Feinabstimmung, Bewertung und Verfeinerung von Modellen unterstützen. Kollaborative Funktionen sind von entscheidender Bedeutung, damit Teams gemeinsam an Eingabeaufforderungen arbeiten und Änderungen effizient verfolgen können.
2. Sicherheit und Datenschutz: Robuste Sicherheitsmaßnahmen sind von größter Bedeutung. Google beispielsweise setzt eine starke Verschlüsselung ein, um sicherzustellen, dass Kundendaten für Mitarbeiter unzugänglich bleiben. Dieses Maß an Datenschutz ist entscheidend, um Vertrauen zu wahren und Vorschriften einzuhalten1.
3. Skalierbarkeit: Die Fähigkeit, Modelle in großem Maßstab einzusetzen, ist für Unternehmensanwendungen von entscheidender Bedeutung. Dazu gehören Überlegungen zur Kosteneffizienz und Leistungsoptimierung.
4. Sachlichkeit und Begründung: Unternehmen benötigen KI-Systeme, die genaue, sachliche Informationen liefern. Techniken wie Retrieval Augmented Generation (RAG) können dabei helfen, KI-Reaktionen auf verifizierten Datenquellen zu verankern, wodurch Halluzinationen reduziert und die Zuverlässigkeit verbessert wird.
5. Integration mit bestehenden Systemen: Um maximale Effizienz zu erreichen, sollte sich KI nahtlos in die vorhandenen Tools und Arbeitsabläufe eines Unternehmens integrieren lassen. Googles Ansatz, Gemini in weit verbreitete Anwendungen wie Gmail und Kalender zu integrieren, ist ein Beispiel für diese Strategie.
6. Anpassung und Feinabstimmung: Die Fähigkeit, Modelle an spezifische Branchenanforderungen oder Unternehmensdaten anzupassen, ist von entscheidender Bedeutung. Auf diese Weise können Unternehmen KI für ihre individuellen Anwendungsfälle und proprietären Informationen nutzen.
7. Compliance und Einhaltung gesetzlicher Vorschriften: Bei der Entwicklung von KI-Lösungen für Unternehmen müssen regulatorische Anforderungen berücksichtigt werden, damit sichergestellt ist, dass sie branchenspezifische Standards und Datenschutzgesetze erfüllen.
8. Kostenmanagement: Während einige LLM-Funktionen zu Massenware werden, müssen Unternehmen bei der Auswahl und Implementierung von KI-Lösungen Qualität, Latenz und Kosten abwägen.
9. Kontinuierliche Evaluation: Angesichts der rasanten Entwicklung der KI sollten Unternehmen Frameworks für die kontinuierliche Bewertung von KI-Modellen anhand ihrer eigenen Daten und Anwendungsfälle implementieren, anstatt sich ausschließlich auf öffentliche Benchmarks zu verlassen.
10. Ethische Überlegungen: Eine verantwortungsvolle Entwicklung und Bereitstellung von KI sollte Priorität haben. Dabei müssen mögliche Vorurteile angegangen und ein fairer und ethischer Einsatz von KI-Technologien sichergestellt werden.

Hier sind einige Fallstudien zu Google Cloud GenAI:

Bundesbank

• Verbesserte Chatbot-Interaktion: Vertex AI wurde verwendet, um den Chatbot Feddy menschlicher und persönlicher zu gestalten.
• Mehrsprachiger Support rund um die Uhr: Implementierung von KI für mehrsprachigen Kundenservice rund um die Uhr.
• API-Integration: Entwicklung eines API-Portals zur Optimierung der FinTech-Zusammenarbeit und Verbesserung der Sicherheit.
• Mitarbeitereffizienz: Erstellte mit Firebase eine mobile App zur Steigerung der Mitarbeiterproduktivität.
• Datensicherheit: Verwendet Cloud Armor zum Schutz vor DDoS-Angriffen und zur Gewährleistung der Datenkonformität.

Mystify - Das Geheimnis

• Kunden-Onboarding: Erstellte Mystic, einen KI-Chatbot mit Vertex AI, um die Benutzereinführung zu optimieren und den Bedarf an Agentenunterstützung zu reduzieren.
• Verbesserter Self-Service: Mystic verarbeitet komplexe Abfragen und verbessert die Benutzerzufriedenheit.
• Skalierbarkeit: Der KI-Chatbot bearbeitet mehrere Anfragen gleichzeitig und leitet ungelöste Probleme an menschliche Agenten weiter.

CoRover

• BharatGPT-Entwicklung: Mit Vertex AI wurde eine mehrsprachige KI-Plattform erstellt, die es Marken ermöglicht, mit Kunden in deren Muttersprache zu kommunizieren.
• Anpassung und Sicherheit: Bietet flexible Datennutzung mit der sicheren Infrastruktur von Google.
• Skalierbarkeit: Verwendete die automatische Skalierung der Kubernetes Engine, um Spitzenverkehr effizient zu bewältigen.
• Innovative Zusammenarbeit: Partnerschaft mit Google Cloud für kontinuierliche Innovation und kundenorientierte Lösungen.

Beratung für Startups und Führungskräfte

Für Startups

Seien Sie flexibel: Die rasante Entwicklung der KI-Technologie erfordert von Startups, agil und reaktionsschnell zu bleiben. Angesichts der Unvorhersehbarkeit des technologischen Fortschritts kann die Entwicklung einer langfristigen Roadmap eine Herausforderung sein. Startups sollten sich darauf konzentrieren, sich schnell an neue Entwicklungen anzupassen und mit neuen Technologien zu experimentieren.

Für Führungskräfte

Anwendungsfälle auswerten: Führungskräfte werden ermutigt, bei der Implementierung von KI-Strategien über Hype und Benchmarks hinauszublicken. Es ist entscheidend, Modelle anhand praktischer Anwendungsfälle zu beurteilen und sie mit ihren Daten zu evaluieren. Öffentliche Benchmarks spiegeln möglicherweise nicht immer die Leistung eines Modells in realen Szenarien wider, daher sind praktische Tests unerlässlich.

Abschluss

Die Landschaft der großen Sprachmodelle entwickelt sich rasant, wobei sowohl etablierte Akteure wie Google als auch neue Modelle aus aller Welt bedeutende Fortschritte erzielen. Innovationen wie kontrollierte Generierung und Kontext-Caching setzen neue Maßstäbe für LLM-Funktionen. Da die KI-Technologie immer weiter fortschreitet, ist das Verständnis der Rolle von Daten, der Auswirkungen geografischer Einflüsse und der Bedeutung agiler Entwicklung der Schlüssel, um in diesem dynamischen Bereich die Nase vorn zu behalten. 

Für Startups und Führungskräfte gleichermaßen wird es entscheidend sein, flexibel zu bleiben und sich auf praktische Anwendungen zu konzentrieren, um die Zukunft der KI zu meistern und eine erfolgreiche Implementierung sicherzustellen.

Stellen Sie sicher, dass Sie angemeldet sind, um Benachrichtigungen zu unseren zukünftigen Podcasts zu erhalten. Episoden → Youtube | Spotify | Apfel  | RSS