Künstliche Intelligenz und ethische Verantwortung

Künstliche Intelligenz und ethische Verantwortung

Über die rasanten Entwicklungen und immer umfänglicheren Anwendungsmöglichkeiten der Künstlichen Intelligenz (KI) gibt es in der Öffentlichkeit und im Laienpublikum wohl ungleich mehr Bedenken und Befürchtungen als unter KI-Expert*innen, die eher deren fantastische Innovationen betonen. Herausgeber und Autor*innen dieses Bandes widmen sich einer der grundlegendsten Fragen der KI, die bislang Menschen vorbehalten schien, nämlich ob Maschinen bzw. Algorithmen moralisch handeln und entscheiden können und ob ihnen deshalb Verantwortung für ihr Handeln zugeschrieben werden darf.

Analysiert, diskutiert und erprobt wurden diese Probleme in einem interdisziplinären Forschungsverbund zur Sozialen Arbeit (2021–2023). Anhand der Bewertung von Fallakten durch Jugendämter wurden vermeidbare Risiken der Kindeswohlgefährdung exemplifiziert. Konkret wurde untersucht, ob und inwiefern normative Kriterien, die das Handeln von Jugendämtern leiten, in Algorithmen übersetzt werden können und ob digitale Tools das institutionelle Handeln unterstützen können. Natürlich handelt es sich jeweils um hochkomplexe, stark individualisierte und kaum prognostizierbare Konflikte und Entscheidungen, wie die Herausgeber in ihrem einleitenden „Problemaufriss“ erörtern. Entsprechend kontrovers seien die Positionen in der Fachwelt: Die einen akzeptieren dafür nur das Erfahrungswissen, die Empathie und die vielfältig reflektierte, sozial eingebundene Verantwortung der Fachkräfte; die anderen erhoffen sich mit enormen Datencorpora, differenzierter Mustererkennung und rekursiver Prognostizierung einschlägiger Algorithmen die sukzessive Rationalisierung und Risikovermeidung – allerdings ausschließlich zur Unterstützung menschlicher Entscheidungen. Denn die Gefahr bestehe auch, dass die vorgeblich konsistente Standardisierung und normative Plausibilität der digitalen Vorschläge selbst von den Fachkräften als die vermeintlich besseren Lösungen akzeptiert werden.

Die in diesem Reader versammelten, interdisziplinären Aufsätze sind im Kontext dieses Forschungsverbundes entstanden und widmen sich aus ganz unterschiedlichen Perspektiven – sowohl systematisch-theoretisch oder kritisch als auch pragmatisch – den Chancen und Risiken der KI-Technologien, nicht immer primär nur ethisch verantwortbaren Formen des Umgangs, vor allem in Konfliktsituationen. Dabei werden auch die Entscheidungs- und Urteilsfindungen in anderen Handlungsfeldern als das der Sozialen Arbeit, wie z. B. in der Wissenschaftsgeschichte, der medizinischen Diagnostik und der Etablierung vertrauensbildender Systeme für demokratische Prozesse, thematisiert. Wiederholt werden auch potenzielle digitale Transformationen sozialer Rollen der Individuen durch die Digitalisierung und Künstliche Intelligenz adressiert.