Nicht an der Seitenlinie stehen!

KI-Lösungen entwickeln sich rasant. Für die Diakonie gilt es, die Chancen auszuloten und zu nutzen – unter dem Primat der Menschendienlichkeit. Thesen von Rolf Baumann, VdDD.

Eines kann als gesichert gelten: Künstliche Intelligenz (KI) kann den Dienst am Menschen maßgeblich voranbringen. Schon heute profitieren Menschen mit Unterstützungsbedarf und Mitarbeitende von KI-basierten Lösungen wie Assistenzsystemen oder Technologien zur Diagnose und Therapie von Krankheiten. KI kann diakonischen Sozialunternehmen nicht nur helfen, die unterstützenden Prozesse effektiver und effizienter zu gestalten (von der Leistungs- und Personaleinsatzplanung bis zur Beschaffung und Logistik), sondern bietet auch große Potentiale, neue und bessere soziale und gesundheitsbezogene Dienstleistungen zu erbringen. Schon heute wird der KI-Einsatz in der Branche erprobt und erforscht – genannt seien hier beispielhaft die Projekte KI.ASSIST, Pulsnetz, MAEWIN und KIP-SDM. Auch diakonische Unternehmen entwickeln KI-basierte Lösungen mit, was im Sinne ethisch reflektierter und menschenzentrierter Anwendungen zu begrüßen ist. Expertinnen und Experten erwarten eine neue technische Revolution. In den kommenden Jahren ist mit einer Vielzahl KI-getriebener Innovationen zu rechnen. Nicht alle, jedoch viele Ansätze werden sich als nutzenstiftend und praxistauglich erweisen. Jetzt gilt es, die Seitenlinie zu verlassen und die Chancen – sowohl im Sinne der Kundinnen und Kunden als auch der Mitarbeitenden – auszuloten. Mindestens sollten die nötigen Voraussetzungen für den künftigen KI-Einsatz geschaffen werden – beispielsweise durch Strukturierung der Datenbestände.

Die Technik muss dem Menschen dienen, nicht umgekehrt. Dieser Grundsatz gilt auch hier. KI trägt Kennzeichen einer ambivalenten Technologie. Sie kann dem Menschen sowohl nutzen als auch schaden. KI in der diakonischen Arbeit muss die Entfaltung menschlichen Lebens fördern und dabei die Potentiale und Grenzen der menschlichen Existenz beachten. Als eine der größten Herausforderungen erweist sich, das Primat der Menschendienlichkeit nicht nur im Allgemeinen für eine bestimmte Zielgruppe sicherzustellen, sondern in jedem individuellen Einzelfall zu gewährleisten. Abzulehnen sind insbesondere die Minderung von Teilhabechancen (z.B. durch überkomplexe Systeme), schädliche Abhängigkeiten, unnötige Fremdbestimmung, Diskriminierung, (intransparente) Manipulation, unerwünschte Datenerhebungen und Leistungssteigerungen, die persönliche Grenzen überschreiten – nicht nur im Regelfall, sondern durchgängig in jedem Anwendungsfall KI-basierter Systeme. Bereits beim Design von KI-Lösungen sind mögliche Fehlentwicklungen zu antizipieren und zu vermeiden. KI-Systeme sind keine Naturgewalt, sondern werden durch Menschen entworfen, gestaltet und gelenkt. Inzwischen liegen breite Forschungen zum ethisch vertretbaren, gemeinwohlorientieren KI-Einsatz vor, an die es anzuknüpfen gilt. Im März 2023 nahm etwa der Deutsche Ethikrat umfangreich Stellung. Demnach kann KI die menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen. Auch internationale Institutionen wie das UNHCHR haben ethische Leitlinien für die KI-Entwicklung und -Anwendung entwickelt. 

Diese Leitlinien geben heute schon Orientierung, auch für den KI-Einsatz in der Diakonie. Für den menschendienlichen KI-Einsatz sind drei Bausteine entscheidend, die nur im Zusammenspiel wirksam sein können:

• Wir brauchen staatliche Regulierung, die Schutz bietet und Innovationen ermöglicht.
• Auf der betrieblichen Ebene (bei Herstellern und Anwendern) ist ein begleitender Reflexionsprozess – etwa durch Folgeabschätzungen, Qualitätssicherung und die Klärung ethischer Dilemmata - zu installieren.
• Betroffene müssen in die Lage versetzt werden, den KI-Einsatz zu testen, Einfluss auf dessen Anwendung zu nehmen und zu entscheiden. Empowerment kann mittels eines Stakeholder-Ansatzes zielgruppenspezifisch oder individuell erfolgen. Hierfür braucht es konzeptionelle Grundlagen, Fort- und Weiterbildung, sowie begleitende Strukturen – z.B. Kompetenzzentren.

Diakonie und Caritas sind in der Verantwortung, den KI-Einsatz dort zu reflektieren und zu begleiten, wo sie eine hervorgehobene Stellung einnehmen – z.B. in der Krankenversorgung, Pflege, Eingliederungs-, Kinder- und Jugendhilfe. Nichtstun ist keine Option - es wäre unternehmerisch fahrlässig und im Hinblick auf entgangenen Nutzen unethisch. Aus dem christlichen Menschenbild und Werteverständnis leitet sich ein menschenzentrierter anstelle eines technikzentrierten Ansatzes bei KI-Anwendungen ab, der tatsächliche Bedarfe des Menschen ins Zentrum stellt.

Zum Themendossier: KI in der Diakonie - Das neue Miteinander?