Vielfalt entdecken

[ Bild von Andreas auf Pixabay]

Bei einem Spaziergang entdecke ich einen Pilz, den ich noch nie zuvor gesehen habe. Wie so oft landet zuerst das Smartphone in meiner Hand. Ein Foto ist schnell gemacht und wenige Sekunden später liefert die Bestimmungs-App ihr Ergebnis: 95 Prozent Wahrscheinlichkeit für eine bestimmte Pilzart und ein Vergleichsbild.

Eigentlich beeindruckend. Doch sofort stellt sich eine weitere Frage: Wie funktioniert das und würde ich dieser Einschätzung wirklich vertrauen?

Bei einer Wildblume mag eine falsche Bestimmung kaum Folgen haben. Bei einem Pilz sieht die Situation anders aus. Manche Arten ähneln sich stark, unterscheiden sich jedoch deutlich in ihrer Wirkung. Die eigentliche Herausforderung besteht deshalb nicht nur darin, eine Art möglichst genau zu bestimmen sondern auch darin, ob Menschen nachvollziehen können, warum eine KI zu ihrer Entscheidung gelangt.

Wenn die KI eine Antwort liefert

Moderne Bilderkennungssysteme erzielen heute beeindruckende Ergebnisse. Plattformen wie iNaturalist liefern häufig sehr genaue Artvorschläge und unterstützen Nutzer zusätzlich durch die Anzeige ähnlicher Beobachtungen oder Referenzbilder. Die angezeigten Vergleichsbilder können Nutzern zwar eine erste Orientierung geben und die Einschätzung plausibler erscheinen lassen. Welche Merkmale das Modell tatsächlich erkannt und für seine Entscheidung verwendet hat, bleibt jedoch meist verborgen. Die Grundlage für Bilderkennungen bilden neuronale Netze, die mit großen Mengen bereits klassifizierter Bilder trainiert werden. Während des Trainings lernen diese Modelle charakteristische Muster, Farben und Strukturen. Das Modell nutzt die während des Trainings gelernten Muster, um zu berechnen, welche Art am wahrscheinlichsten ist.

Das Problem der Black Box

Für Nutzer bleibt dieser Prozess jedoch meist unsichtbar. Sie sehen lediglich das Ergebnis, nicht aber den Weg dorthin. Genau deshalb werden solche Systeme häufig als „Black Box“ bezeichnet. Zwar liefert das Modell eine Vorhersage, doch welche Merkmale tatsächlich ausschlaggebend waren, bleibt oft unklar. Gerade bei komplexen neuronalen Netzen ist es selbst für Experten nicht immer nachzuvollziehen, wie eine konkrete Entscheidung zustande gekommen ist.

Diese fehlende Nachvollziehbarkeit spielt insbesondere bei Citizen-Science-Plattformen wie iNaturalist eine Rolle. Dort dokumentieren täglich tausende Nutzer Pflanzen, Tiere und Pilze. Die KI unterstützt sie bei der Bestimmung, doch viele Anwender möchten verstehen können, warum eine bestimmte Art vorgeschlagen wurde und wie zuverlässig diese Einschätzung ist.

Abbildung 1: Vereinfachter Ablauf einer KI-gestützten Pilzbestimmung. Nach der Aufnahme eines Pilzfotos werden charakteristische Merkmale analysiert und durch ein neuronales Netz verarbeitet. Anschließend erstellt das System einen Artvorschlag mit einer Wahrscheinlichkeit. Die endgültige Bewertung sollte jedoch durch den Nutzer überprüft werden.

Warum Vertrauen wichtig ist

Menschen akzeptieren Entscheidungen in der Regel leichter, wenn sie nachvollziehen können, wie diese entstanden sind. Stellt ein Arzt eine Diagnose, erwarten wir eine Begründung. Empfiehlt ein Navigationssystem eine Umleitung, möchten wir wissen, warum. Dasselbe gilt auch für KI-Systeme.

Eine hohe Trefferquote allein reicht oftmals nicht aus, um Vertrauen zu schaffen. Nutzer möchten einschätzen können, ob eine Entscheidung plausibel ist und ob sie sich in einer konkreten Situation darauf verlassen können. Gerade im Bereich der Citizen Science spielt dieser Aspekt eine wichtige Rolle. Viele Menschen nutzen Plattformen wie iNaturalist, um mehr über die Natur zu erfahren und eigene Beobachtungen zu dokumentieren. Wenn eine KI lediglich eine Antwort präsentiert, ohne ihre Entscheidung nachvollziehbar zu machen, bleibt häufig Unsicherheit zurück. Auch ähnliche Beobachtungen oder Referenzbilder beantworten dabei nicht zwangsläufig die Frage, welche Merkmale die KI tatsächlich erkannt hat.

Hat die KI den Pilz tatsächlich anhand relevanter Merkmale erkannt? Oder wurde die Entscheidung von Faktoren beeinflusst, die für Menschen gar nicht erkennbar sind? Solche Fragen zeigen, dass Genauigkeit und Vertrauen nicht automatisch dasselbe sind.

Explainable AI als Lösungsansatz

Um dieses Problem zu lösen, beschäftigen sich Forschende seit einigen Jahren mit Explainable Artificial Intelligence, kurz XAI. Ziel dieser Ansätze ist es, Entscheidungen künstlicher Intelligenz verständlicher und transparenter zu machen. Statt lediglich ein Ergebnis auszugeben, sollen zusätzliche Informationen zeigen, welche Merkmale für die Vorhersage besonders wichtig waren.

Bei einer Pilzbestimmung könnte ein System beispielsweise erklären, dass die Entscheidung auf der charakteristischen Hutfarbe, der Form des Stiels oder der Struktur der Lamellen basiert. Nutzer erhalten dadurch nicht nur ein Ergebnis, sondern auch eine Begründung. Das ermöglicht es ihnen, die Einschätzung kritisch zu hinterfragen und besser einzuordnen. XAI soll dabei nicht die menschliche Entscheidung ersetzen. Vielmehr geht es darum, Menschen bei der Bewertung von KI-Ergebnissen zu unterstützen und die Funktionsweise der Systeme nachvollziehbarer zu machen.

Besonders spannend wird es, wenn Erklärungen nicht nur wichtige Bildbereiche markieren, sondern mit Begriffen arbeiten, die Menschen intuitiv verstehen. Viele klassische Erklärungsverfahren erzeugen sogenannte Heatmaps, also farbliche Hervorhebungen relevanter Bildbereiche. Sie zeigen, welche Bereiche eines Bildes für die Entscheidung relevant waren. Das kann hilfreich sein, beantwortet aber nicht immer die Frage, welche Merkmale tatsächlich erkannt wurden.

Von Heatmaps zu verständlichen Konzepten

Wer einen Pilz bestimmt, achtet normalerweise auf Merkmale wie die Hutfarbe, die Form des Stiels oder die Struktur der Lamellen. Niemand betrachtet dabei einzelne Pixelwerte eines Bildes. Genau hier setzt Concept-Based Explainable AI an. Ein bekanntes Verfahren ist TCAV (Testing with Concept Activation Vectors). Dabei wird untersucht, welche verständlichen Konzepte die Entscheidung eines Modells beeinflussen. Allerdings liefern auch solche XAI-Verfahren keine vollständige Erklärung der internen Modelllogik. Sie können Hinweise auf relevante Merkmale geben, machen neuronale Netze jedoch nicht vollständig transparent.

Ein Modell könnte beispielsweise einen Pilz als Fliegenpilz klassifizieren und gleichzeitig zeigen, dass vor allem die weißen Punkte auf dem Hut sowie die charakteristische Hutfarbe für diese Entscheidung relevant waren. Solche Erklärungen kommen der menschlichen Artbestimmung deutlich näher als die bloße Markierung einzelner Bildbereiche.

Dadurch entstehen Erklärungen, die leichter nachvollzogen werden können und einen besseren Einblick in die Entscheidungsgrundlage eines Modells geben. Solche Erklärungen sind in vielen heute genutzten Artenbestimmungssystemen noch nicht verfügbar. Plattformen wie iNaturalist liefern zwar sehr genaue Artvorschläge, erläutern jedoch meist nicht, welche konkreten Merkmale für die Entscheidung ausschlaggebend waren.

Abbildung 2: Beispiel einer Concept-Based Explainable AI (XAI) bei der Pilzbestimmung. Während das neuronale Netz einen Artvorschlag erzeugt, macht die XAI-Schicht nachvollziehbar, welche für Menschen verständlichen Merkmale – beispielsweise Hutfarbe, weiße Punkte oder die Stielstruktur – zur Entscheidung beigetragen haben.

Warum das für Citizen Science relevant ist

Die Kombination aus Citizen Science und künstlicher Intelligenz bietet große Chancen für die Biodiversitätsforschung. Plattformen wie iNaturalist ermöglichen es, enorme Mengen an Beobachtungen zu sammeln und auszuwerten. Je mehr Menschen teilnehmen, desto umfangreicher werden die verfügbaren Daten.

Damit solche Systeme langfristig akzeptiert und genutzt werden, ist Vertrauen jedoch entscheidend. Nutzer möchten verstehen, warum eine KI zu einer bestimmten Einschätzung gelangt. Erklärbare KI kann dazu beitragen, Unsicherheiten zu reduzieren und Entscheidungen besser nachvollziehbar zu machen. Gerade bei schwierigen Arten oder ähnlichen Pilzen könnte dies einen wichtigen Unterschied machen. Wenn Nutzer nachvollziehen können, warum eine KI einen Pilz als Fliegenpilz einstuft, sind sie eher bereit, die Beobachtung zu akzeptieren oder kritisch zu überprüfen.

Mehr Vertrauen kann dazu führen, dass Menschen solche Systeme häufiger nutzen und mehr Beobachtungen dokumentieren. Dadurch entstehen wiederum größere Datensätze, die sowohl der Forschung als auch der Weiterentwicklung der KI zugutekommen. Erklärbarkeit ist deshalb nicht nur eine technische Herausforderung, sondern auch ein wichtiger Faktor für die Akzeptanz von KI-gestützten Citizen-Science-Projekten.

Künstliche Intelligenz erleichtert die Bestimmung von Pflanzen, Tieren und Pilzen bereits heute erheblich. Für viele Nutzer reicht ein Artvorschlag allein nicht aus. Sie möchten verstehen, wie die KI zu diesem Ergebnis gekommen ist. Vertrauen entsteht nicht allein durch hohe Genauigkeit, sondern auch durch Transparenz. Explainable AI verfolgt deshalb ein zentrales Ziel:

KI-Systeme sollen nicht nur richtige Antworten liefern, sondern ihre Entscheidungen auch verständlich erklären können.

Gerade für Citizen-Science-Projekte könnte dies ein wichtiger Schritt sein, um die Zusammenarbeit zwischen Mensch und KI weiter zu stärken.