Besitzen Sie diesen Inhalt bereits,
melden Sie sich an.
oder schalten Sie Ihr Produkt zur digitalen Nutzung frei.
Künstliche Intelligenz: So gehen Sie mit ungenauen Ergebnissen um
Beispiele und Handlungsempfehlungen
Immer mehr Unternehmen und Menschen nutzen KI-Systeme, um z. B. Aufgaben schneller und effektiver lösen zu können oder Ideen für die Umsetzung neuer Konzepte zu erhalten. Doch unbedacht glauben sollte man den Ergebnissen von KI nicht (mehr). Studien zeigen, dass die Antworten ungenauer werden oder Ergebnisse falsch oder unvollständig sein können. Zwar weisen viele KI-Anbieter von sich aus auf mögliche Ungenauigkeiten hin, aber häufig sehen Anwender darüber hinweg und gehen davon aus, dass alle Ergebnisse schon korrekt sein werden. Das kann in der Praxis zu Problemen führen, etwa, wenn KI-Verträge mit ungültigen Klauseln generiert werden. Der Beitrag zeigt an einem einfachen Beispiel in grundlegenden Punkten die Problematik und mit welchen Maßnahmen Unternehmen dennoch respektable Ergebnisse erhalten.
KI-Systeme werden von immer mehr Unternehmern genutzt, um produktiver und schneller arbeiten zu können.
Die Ergebnisse werden u. a. dazu verwendet, um Vertrieb oder Marketing zu verbessern oder sich Konzepte erstellen zu lassen.
Doch die Ergebnisse werden zunehmend ungenauer und es gibt auch falsche Resultate; bspw. werden auch fehlerhafte Quellenangaben oder Zitate geliefert.
Doch es gibt Möglichkeiten, die Qualität der Antworten zu verbessern, damit KI weiter verlässlich im Betrieb eingesetzt werden kann.
I. Warum werden Antworten von KI-Systemen ungenauer?
Immer mehr Unternehmen nutzen KI, um z. B. Abläufe zu verbessern, mehr über Wettbewerber in Erfahrung zu bringen oder Bedarfsprognosen zu verbessern, etwa im Vertrieb. Dabei erstellen KI-Systeme meist Texte oder Auswertungen, die professionell erstellt sind und richtig wirken. Allerdings weisen Studien verstärkt darauf hin, dass die Ergebnisse immer schlechter werden und auch die Anzahl von falschen Antworten zunimmt.
Viele KI-Systeme werden mit großen Datenmengen trainiert, u. a. mit Texten, Analysen von Websites, Foren, sozialen Medien oder wissenschaftlichen Publikationen. Dabei erfolgt die Datensammlung oft ungefiltert. Das bedeutet, dass wissenschaftlich fundierte Texte neben ungeprüften Quellen, Fehlinformationen, Falschaussagen oder veralteten Daten stehen können. Wurde ein KI-System zu größeren Teilen mit alten Daten trainiert, kann es zu neuen Entwicklungen keine vernünftigen Antworten geben. Bei Quellenangaben liegt die Fehlerquote übrigens bei bis zu 60 %! Die Folgen sind zumindest in Teilen ungenaue, unvollständige oder auch widersprüchliche Inhalte. Fließen in KI-Modelle auch Daten ein, die bereits von anderen KI-Modellen generiert wurden, verschlechtern sich die Ergebnisse weiter. Und je größer die Modelle sind, desto negativer die Auswirkungen.
Wie gravierend das Problem ist oder je nach Anwendung sein kann, zeigt ein Faktencheck, den das Mittelstand Digital Zentrum Berlin vorgenommen hat: https://go.nwb.de/06lpa. Je nach Themengebiet und Fragestellungen liegt die Fehlerquote bei 8 bis über 80 %!
II. Welche Folgen können ungenaue oder falsche Antworten haben?
Falsche oder verkürzte Antworten auf Anfragen bei einem KI-System können für Unternehmen gravierende Folgen haben. Einige Beispiele: