Projektbeschreibung
Künstliche Intelligenz (KI) wird zunehmend zum zentralen Wettbewerbsfaktor – auch für kleine und mittlere Unternehmen (KMU). Doch der Zugang zu modernen KI-Technologien ist oft durch technische Hürden und hohe Kosten erschwert. Das Forschungsprojekt LLM4KMU setzt genau hier an: Es erleichtert KMU den Zugang zu Open-Source-Sprachmodellen („Large Language Models“, LLM) und schafft praxisnahe Lösungen für die industriellen Anwendungen.
Das Projekt wird im Rahmen des Innovationsprogramms NEXT.IN.NRW durch das Land Nordrhein-Westfalen und die Europäische Union gefördert.
Ein zentrales Anliegen von LLM4KMU sind Datenschutz und Best Practices. Alle Lösungen basieren auf Open-Source-Technologien und können innerhalb der bestehenden IT-Infrastruktur der Unternehmen betrieben werden. Dadurch behalten KMU jederzeit die volle Kontrolle über ihre Daten – ein entscheidender Vorteil für viele KMUs, in denen sensible Daten oft eine zentrale Rolle spielen.
Ziel des Projekts: LLM4KMU entwickelt produktionsreife KI-Werkzeuge, die KMU einfach und sicher in ihre Geschäftsprozesse integrieren können – ohne große Investitionen oder tiefgehende IT-Expertise. Ergänzend entstehen Leitfäden, die den effizienten, sicheren und kostengünstigen Einsatz von KI in der Praxis erleichtern.
Mehrwerte des Projektes für KMUs
Unternehmen profitieren von LLM4KMU, indem sie ihre internen Prozesse deutlich effizienter gestalten können. Durch die automatisierte Erstellung von Dokumentationen, Handbüchern, Schulungsmaterialien und FAQ-Inhalten sparen sie wertvolle Zeit und reduzieren Kosten. Gleichzeitig verbessert sich der Kundenservice, da Chatbots, dynamische FAQ-Systeme und personalisierte Kommunikation eine schnellere und qualitativ hochwertige Betreuung ermöglichen.
Darüber hinaus steigern Unternehmen ihre Innovationsfähigkeit, weil LLMs Kundenfeedback und Markttrends analysieren und so eine gezieltere Produktentwicklung unterstützen. Ein weiterer zentraler Vorteil ist die Wahrung der Datensouveränität: Durch den Einsatz von Open-Source-Modellen behalten Unternehmen jederzeit die volle Kontrolle über ihre sensiblen Informationen.
Zudem profitieren sie von einer sicheren und robusten KI-Nutzung, da spezielle Methoden entwickelt werden, um Halluzinationen zu reduzieren und die Zuverlässigkeit der Modelle zu erhöhen. Schließlich erhalten KMUs einen niedrigschwelligen Zugang zu modernster KI-Technologie, da das Projekt Expertise, passende Infrastruktur und praxisnahe Best Practices bereitstellt.
Ziele
Das Projekt verfolgt vier übergeordnete Ziele:
- Akzeptanz fördern: Durch praxisnahe Anwendungen, Demonstratoren und frühe Einbindung von Mittelstandsunternehmen wird der Technologietransfer nachhaltig gesichert.
- Anpassbarkeit verbessern: LLMs sollen einfach auf unternehmensspezifische Daten nachtrainiert und angepasst werden können.
- Zugänglichkeit erhöhen: KMUs sollen LLM-Technologie ohne hohen Ressourceneinsatz nutzen können – dank Open Source und geeigneter Infrastruktur.
- Zuverlässigkeit und Sicherheit steigern: Methoden zur Reduzierung von Halluzinationen, zum Datenschutz und zur Wahrung der Datensouveränität werden entwickelt.
Projektpartner und -team
Uni Bielefeld
Die Universität Bielefeld übernimmt die Projektkoordination in LLM4KMU. Sie bringt ihre Expertise in der Optimierung von LLMs für diverse Aufgabenstellungen und im Bereich der Verarbeitung von unstrukturierten Daten ein. Sie ergänzt die Perspektive der mittelständischen Unternehmen um Forschungsperspektiven zu Information Extraction, Natural Language Processing, Evaluation und Optimierung von LLMs sowie zum Benchmarking von Modellen.
Primeline Solutions
Die Primeline Solutions GmbH bringt ihre umfangreiche Expertise in der Entwicklung und dem Betrieb moderner KI-Infrastruktur in das Projekt ein. Im Mittelpunkt stehen eine leistungsstarke CRUD-API für mehrstufige Vektorsuche sowie ein flexibles Model-as-a-Service-Angebot. Die API kombiniert Sparse Search (BM25), Dense Search und Reranking mit Late-Interaction-Modellen und ermöglicht durch automatische Datensatzgenerierung die kontinuierliche Verbesserung von Embedding-Modellen. Ergänzt wird dies durch lokal gehostete Modelle sowie die Anbindung führender Anbieter wie Google, Azure, Anthropic und OpenAI. Damit schafft Primeline Solutions die technische Grundlage, damit KMUs leistungsstarke und gleichzeitig datenschutz- und kosteneffiziente LLM-Lösungen einsetzen können.
Ellamind
ellamind ist ein deutsches KI-Startup aus Bremen mit ausgewiesener Expertise im Bereich großer Sprachmodelle (LLMs) und KI-Agenten. Als „Agent Lab” baut ellamind die Infrastruktur, mit der Unternehmen KI-Modelle und Agenten sicher entwickeln, evaluieren, betreiben und überwachen können. Mit der eigenen Evaluations- und Monitoring-Plattform elluminate wird die Qualität von KI-Anwendungen über den gesamten Lebenszyklus hinweg messbar und nachweisbar. Im Projekt LLM4KMU bringt ellamind dieses Know-how aus Modelloptimierung und systematischer Qualitätssicherung ein, um die Anwendungsfälle der KMU-Partner mit messbarer Qualität, Robustheit und Datensouveränität in den produktiven Einsatz zu bringen.
CLAAS
Die CLAAS Selbstfahrende Erntemaschinen GmbH hat langjährige Expertise und ist Innovationstreiber im Bereich der Automatisierung von Erntemaschinen. Sie hat umfangreiche Erfahrungen im Gebiet der Entwicklung von prozessbezogenen Optimierungssystemen. Im Rahmen des LLM4KMU Projekts baut sie ihre bisherigen Erfahrungen im Bereich der KI-basierten Funktionen weiter aus.
Zenit
ZENIT GmbH begleitet das Projekt mit ihrer langjährigen Erfahrung im Innovations- und Technologietransfer. Gemeinsam mit den anderen Partnern tragen sie dazu bei, Projektergebnisse zielgruppengerecht aufzubereiten und für Unternehmen zugänglich zu machen. Ihr Fokus liegt darauf, Unternehmen beim Einstieg in den Einsatz von KI zu unterstützen, Orientierung zu geben und den Austausch zwischen Forschung und Wirtschaft zu fördern. Dabei stehen Praxisnähe, Verständlichkeit und die Anforderungen von KMU im Mittelpunkt.
Matplus
Die Matplus GmbH entwickelt seit über 20 Jahren Softwarelösungen für die digitale Werkstofftechnik. Dabei setzt sie auf Open-Source-Technologien, um Datensouveränität und Flexibilität zu gewährleisten. Im Forschungsprojekt LLM4KMU bringt Matplus ihre Expertise im Bereich Werkstoffdatenmanagement und KI-Integration ein, um praktische, sichere und kosteneffiziente Lösungen für KMUs zu schaffen.
Semalytix
Semalytix ist ein führendes KI-Technologieunternehmen, das Millionen unstrukturierter, globaler Patientenstimmen datenschutzkonform analysiert. Mit proprietären Plattformen wie PatientGPT evaluiert das Unternehmen echte Patientenerfahrungen für die pharmazeutische Industrie. Im Projekt LLM4KMU nimmt Semalytix eine intellektuelle Vorreiterrolle ein, um Erkenntnisse über Patient*innen durch automatische Analysen mit modernsten Open-Source-LLMs zugänglich zu machen. Dabei werden bestehende Erfahrungen mit kommerziellen Modellen gezielt auf kleinere, kosteneffiziente und anwendungsangepasste Modelle übertragen.