Künstliche Intelligenz kann Unternehmen dabei unterstützen, Informationen schneller verfügbar zu machen und Arbeitsprozesse effizienter zu gestalten. Häufig fehlt KI-Anwendungen jedoch der Zugriff auf unternehmensspezifisches Wissen. Retrieval Augmented Generation (RAG) bietet hier einen Lösungsansatz, indem interne Dokumente und Daten gezielt in die Beantwortung von Anfragen einbezogen werden. Die wichtigsten Infos zur Technologie hat das Mittelstand-Digital Zentrum Augsburg in einer Broschüre zusammengefasst.
Große Sprachmodelle (Large Language Models, kurz LLMs) bieten zahlreiche Möglichkeiten, um Mitarbeitende bei ihrer täglichen Arbeit zu unterstützen und sind aus vielen Unternehmen nicht mehr wegzudenken. Doch so hilfreich diese Modelle auch sind, für den Mittelstand haben sie oft ein entscheidendes Problem: Sie verfügen nicht über das unternehmensinterne Wissen wie beispielsweise interne Verträge, spezifische Produkthandbücher oder den aktuellen Lagerbestand. Zudem neigen sie zu „Halluzinationen“, d. h. sie erfinden Fakten, wenn sie die Antwort nicht kennen. Hier setzt Retrieval Augmented Generation (RAG) an. RAG ist die Brücke zwischen der sprachlichen Kompetenz einer KI und dem exklusiven Unternehmenswissen. Anstatt ein Modell teuer neu zu trainieren, gibt man ihm die Fähigkeit, in den eigenen Daten „nachzuschlagen“, bevor es antwortet.
In der Broschüre „Kompaktwissen KI: Retrieval Augmented Generation (RAG) in der Praxis“ werden die Grundlagen von RAG vermittelt sowie zentrale Konzepte wie Vektordatenbanken, Embeddings, Chunking und die Unterschiede zwischen RAG und Fine-Tuning erläutert. Darüber hinaus präsentiert die Broschüre die Vorteile der Technologie für KMU und zeigt auf, welche technischen Voraussetzungen für die Umsetzung erfüllt sein sollten.
Neben den theoretischen Grundlagen werden auch konkrete Anwendungsbeispiele vorgestellt. So erfahren Unternehmen, wie RAG beispielsweise im Kundensupport, beim Onboarding neuer Mitarbeitender, im Wissensmanagement oder bei der Analyse von Dokumenten eingesetzt werden kann. Zudem werden typische Herausforderungen wie Datenqualität, Datenschutz und die Integration in bestehende IT-Systeme beleuchtet.
Insgesamt bietet das Kompaktwissen KI einen praxisnahen Einstieg in die Nutzung von Unternehmenswissen für KI-Anwendungen. Es richtet sich insbesondere an Geschäftsführende, IT-Verantwortliche und Interessierte aus KMU, die das Potenzial von RAG für ihren Betrieb besser verstehen möchten.