Aktuelle KI-Systeme sind zwar in der Lage, riesige Datenmengen zu analysieren, arbeiten jedoch typischerweise vollständig automatisch und führen meist vorgegebene Aufgaben aus (z. B. Sprach- oder Objekterkennung). Kleine und mittlere Unternehmen (KMU), insbesondere solche, die an Spezialanwendungen arbeiten, benötigen jedoch KI-Lösungen, die auf ihre Probleme und Daten zugeschnitten sind. Darüber hinaus müssen Unternehmen, die einem harten Wettbewerb ausgesetzt sind, ihre Strategien ständig anpassen. Eine weitere Einschränkung aktueller KI-Technologien ist ihre hohe Komplexität und mangelnde Transparenz. Da die Modelle auf Millionen erlernter Parameter beruhen, ist es schwierig zu verstehen und zu erklären, wie sie ihre Entscheidungen treffen. Daher sind Methoden erforderlich, die mehr Transparenz bieten und durch intuitive Erklärungen zum Aufbau von Vertrauen beitragen. Letztlich fehlt es an Wissen bei der Anwendung der neuesten KI-Lösungen und viele Unternehmen verfügen nicht über ausreichende personelle Ressourcen, um KI-Lösungen an ihre Bedürfnisse anzupassen. Um die oben genannten Herausforderungen anzugehen, zielt das Projekt Trust AI darauf ab, einen neuartigen erklärungsbasierten interaktiven Lernansatz zu entwickeln. Im Gegensatz zu traditionellen Lernschemata in der KI, die auf Datenannotation oder labelbasiertem Feedback (sogenanntes aktives Lernen) beruhen, ermöglicht unser interaktives Lernparadigma einen kontinuierlichen Dialog zwischen menschlichen Benutzern und KI. Dieser Dialog vertieft schrittweise das Verständnis der mit einer bestimmten Aufgabe verbundenen Probleme. Darüber hinaus wird der Trainingsfortschritt permanent überwacht. Dabei wird die Funktionsweise des Modells bewertet und bei der Identifizierung von Datenverzerrungen geholfen. Ein transparenter Abstimmungsprozess reduziert die Auswirkungen von Verzerrungen und Fehlinterpretationen und macht die KI-Lösungen dadurch vertrauenswürdiger und besser an die eigentliche Aufgabe angepasst. Die entwickelte Plattform macht große Mengen an annotierten Trainingsdaten überflüssig, erleichtert die Anpassung von Lösungen an individuelle Geschäftsprobleme und bietet erklärbare und zuverlässige KI-Modelle. Da die Benutzeroberflächen der Plattform unkompliziert und allgemein verständlich gehalten sind (in Übereinstimmung mit anerkannten Standards der Mensch-Computer-Interaktion), sind für die Verwendung von KI-Lösungen keine technischen Vorkenntnisse erforderlich.
