AI Act Chatbot
der KI-Servicestelle
Dazu verwendet der Chatbot die relevanten Fachdokumente: Den EU AI Act, sowie alle
Informationen der KI-Servicestelle. Bei seinen Antworten werden die wesentlichen Informationen
verständlich aufbereitet zur Verfügung gestellt.

Das Projekt
Der AI Act Chatbot legt seine innere Funktionsweise offen und zeigt dabei die Vorteile und Grenzen von Chatbots. Dabei gilt:
- Volle Transparenz: Jeder Schritt ist einsehbar – vom Prompt bis zum Stromverbrauch
- Umfassende rechtliche & technische Dokumentation
- Digitale Souveränität: Alle Komponenten laufen auf RTR-Hardware, als Sprachmodell kommt ein Europäisches Modell von Mistral zum Einsatz
- Open Source & Open Data: Der Quellcode und die gesamte Datenbasis sind veröffentlicht und frei verwendbar

Effekte
Der AI Act Chatbot soll eine vollkommen transparente Lösung darstellen und dabei neben der Beantwortung von Fragen auch offenlegen, wie diese beantwortet werden.
Neben der veröffentlichten Datenbasis betrifft das auch den Source Code und den Energieverbrauch.
Organisationen
Umgesetzt wird das Projekt von der KI-Servicestelle der Rundfunk- und Telekom-Regulierungs-GmbH.
Chancen
- Niedrigschwelliges Angebot: Die KI-Servicestelle möchte einen niedrigschwelligen Zugang zu Antworten auf insbesondere regulatorische Fragen bieten – der Chatbot ergänzt unser Serviceangebot.
- Transparenz: Wir zeigen Prompts, Quellen, Source Code und Energieverbrauch an. Der Chatbot ist unter der permissiven Apache-2-Lizenz veröffentlicht und ermöglicht den Einsatz auch in anderen Gebieten.
Herausforderungen
- Korrektheit: Aus der Technik ergibt sich, dass LLM's nicht immer inhaltlich korrekt agieren. Wir legen unseren Qualitätssicherungsprozess offen und ermöglichen es anderen Organisationen, daraus zu lernen.