Die Bezeichnung „Künstliche Intelligenz“ (KI) kann im Alltag zu falschen Erwartungen verleiten und unnötige Ängste schüren. Das sagt Ladan Pooyan-Weihs, Digital-Ethikerin an der Hochschule Luzern – Informatik. Ein Interview über „erweiterte Intelligenz“, digitale Ethik und nötige Weichenstellungen. Ende 2023 wurde dieses Interview aktualisiert, da ChatGPT einer breiten Öffentlichkeit die Fortschritte generativer Künstlicher Intelligenz demonstrierte. Dies löste sowohl Begeisterung als auch Besorgnis aus, was zu Forderungen nach einer Entwicklungspause für KI-Systeme und Warnungen vor dem sogenannten Alignment-Problem führte, der Gefahr, dass zukünftige KI-Systeme die menschliche Zivilisation bedrohen könnten.
Die Debatte um Künstliche Allgemeine Intelligenz (AGI)
Frau Pooyan-Weihs betont, dass mögliche Gefahren ernst genommen werden müssen, wie der KI-Gipfel zur Sicherheit von künstlicher Intelligenz im November 2023 in Bletchley Park zeigte. Sie begrüßt Regulierungen wie den AI Act der EU und die Rahmenbedingungen des Europarats. Auch die Gründung einer Internationalen Agentur für datenbasierte Systeme (IDA) bei der Uno als Zulassungsbehörde, ähnlich der Internationalen Atomenergiebehörde (IAEA), unterstützt sie. Diese Agentur soll sicherstellen, dass datenbasierte Systeme die Menschenrechte einhalten. Trotz der beeindruckenden Fortschritte in der KI-Forschung und -Entwicklung muss sich laut Pooyan-Weihs um ihre sichere und friedliche Nutzung bemüht werden.
Warum der offene Brief zur Entwicklungspause kritisch betrachtet wird
Pooyan-Weihs unterzeichnete den offenen Brief tausender KI-Fachleute zur Entwicklungspause nicht. Sie sieht darin eine Ablenkung von den tatsächlichen Problemen. Die Behauptung, wir stünden vor einer unbegreiflichen wissenschaftlichen Entwicklung, ignoriere die langjährige Forschung, auf der KI basiert. Statt sich auf futuristische Schreckensszenarien zu konzentrieren, sollten die aktuellen, realen Herausforderungen angegangen werden.
Aktuelle Probleme im Umgang mit KI
Die Digital-Ethikerin hebt den Schutz privater Daten und der Privatsphäre als zentrale Anliegen hervor. Große Technologiekonzerne verdienen erheblich an diesen Daten, was negative Folgen für Nutzer haben kann. KI beschleunigt zudem die Verbreitung von Fake News, was demokratische Werte bedroht, und verstärkt bestehende gesellschaftliche Diskriminierungen in ihren Systemen. Die vorübergehende Sperrung von ChatGPT durch die italienische Datenschutzbehörde im Frühjahr 2023 unterstreicht die Bedenken hinsichtlich der Sammlung und Verarbeitung persönlicher Daten. Diese aktuellen Probleme erfordern dringend Schutz, nicht aber die Fokussierung auf hypothetische Zukunftsgefahren.
Lobbying und die Schwächung von Regulierungen
Die großen globalen Tech-Konzerne betreiben intensives Lobbying, um ihre Interessen zu vertreten und Regulierungen abzuschwächen. Pooyan-Weihs betrachtet den offenen Brief als Ablenkungsmanöver, da diese Unternehmen versuchen, die Gestaltung von KI-Regulierungen zu beeinflussen, um sie so oberflächlich wie möglich zu halten. Das Machtgefälle zwischen diesen Unternehmen und den Staaten wird dabei deutlich.
KI als Werkzeug menschlicher Intelligenz
Trotz der Warnungen vieler Fachleute betont Pooyan-Weihs die Komplexität des Themas. Sie erkennt an, dass KI-Technologie den Menschen nützen und nicht schaden sollte. ChatGPT und generative Bilderzeugungsmodelle seien zweifellos Meilensteine. Sie basieren jedoch auf einer Kombination aus Semisupervised und Reinforcement Learning, die einen enormen menschlichen Einsatz erfordert. Hinter einer KI, die Bilder erzeugt, stecke kein Bewusstsein oder Kreativität im menschlichen Sinne, sondern berechnetes Training, das auf menschlicher und rechnerischer Leistung beruht.
Die Notwendigkeit von Bildung und kritischem Denken
KI-Modelle werden oft darauf trainiert, menschlich zu wirken, was jedoch nicht bedeutet, dass sie wahr oder richtig sind. Es ist entscheidend, dass Menschen lernen, zwischen richtig, falsch und plausibel zu unterscheiden und kritisches Denken zu fördern. Bildungsinstitute spielen hier eine wichtige Rolle, indem sie mehr Bildung und Sensibilität im Umgang mit KI-Systemen vermitteln.
„Erweiterte Intelligenz“ statt „Künstlicher Intelligenz“
Ladan Pooyan-Weihs hält den Begriff „Künstliche Intelligenz“ für irreführend. Da es keine allgemeingültige Definition von Intelligenz gibt, führe der Begriff in die Irre und schüre Ängste, ähnlich wie der Begriff „Viren“ im Zusammenhang mit Informationstechnologie. Sie schlägt stattdessen vor, von „Erweiterter Intelligenz“ zu sprechen, da jedes Stück Software eine Erweiterung menschlicher Intelligenz darstellt. Wir Menschen stecken hinter den Programmen und bestimmen deren Funktionsweise.
Was Intelligenz ausmacht: Innovation, Neugier und Ethik
Intelligenz, so Pooyan-Weihs, bedeutet für sie die Fähigkeit, innovativ zu sein, Regeln zu brechen, Neugierde zu entwickeln und sich für das Unbekannte zu interessieren. Intelligenz ist dynamisch, global wirksam und entwicklungsfähig. Maschinen hingegen zweifeln oder hinterfragen nicht und haben kein Verlangen nach Wertschöpfung für die Menschheit, Frieden oder das Gemeinwohl. Sie tun, was sie programmiert wurden zu tun. Solange Computer kein Einfühlungsvermögen, keinen Sinn für Humor und keine Fähigkeit zum Sprung zwischen Situationen besitzen, kann von „Künstlicher Intelligenz“ im eigentlichen Sinne keine Rede sein.
Die Grenzen der KI und die Rolle des Menschen
KI kann menschliches Lernen und Denken auf den Computer übertragen und dabei fehlerfrei, schneller und effizienter arbeiten als Menschen. Programme wie AlphaGo, Watson oder Deep Blue nutzen Strategien, die sich von denen des menschlichen Gehirns unterscheiden, und erkennen Muster in Daten effizienter. Dennoch spiegeln Maschinen immer nur das wider, was wir selbst verstanden und ihnen beigebracht haben. Sie haben keine eigenen Ideen, sondern beziehen sich auf von uns diktierte Spielregeln.
Die wahre Gefahr: menschliche Fehler
Die eigentliche Gefahr im Zusammenhang mit KI und Robotern geht von uns Menschen aus, beispielsweise durch die bewusste Programmierung von Killerrobotern oder die Erstellung rassistischer oder frauenfeindlicher Chatbots. Es gibt keine KI außerhalb unserer Kontrolle, die unsere Ausrottung herbeiführen könnte.
Regulierungen und ethische Verpflichtungen für Informatiker
Um die Entwicklung unbedachter oder gefährlicher Programme zu verhindern, sind Regulierungen unerlässlich. Informatikerinnen und Informatiker haben die Pflicht, demokratische Institutionen zu informieren und zu alarmieren, damit Mechanismen zur Verhinderung von Missbräuchen eingeführt werden. Ein „Holberton-Turing-Eid“ für Entwickler von Algorithmen, der die Menschlichkeit über die Technik stellt, existiert bereits als nicht bindende Initiative. Es bedarf jedoch umfassenderer, weltweit verbindlicher Richtlinien.
Die Bedeutung des CAS-Programms „Digitale Ethik“
Ladan Pooyan-Weihs engagiert sich für den Aufbau eines neuen CAS-Ausbildungsprogramms für „Digitale Ethik“ an der Hochschule Luzern – Informatik. Angesichts der weitreichenden Auswirkungen der Digitalisierung auf alle Lebensbereiche ist es ihr ein Anliegen, dass Informatikerinnen und Informatiker die Weichen achtsam stellen und Verantwortung übernehmen. Inspiration findet sie bei Persönlichkeiten wie Luc Julia, Sarah Spiekermann und Corinna Bath, die sich ebenfalls mit den ethischen Dimensionen von Technologie auseinandersetzen.
Wunsch für die Zukunft der KI
Pooyan-Weihs wünscht sich einen Einsatz von KI zum Schutz und zur positiven Entwicklung der Menschheit. KI soll keine Entscheidungen für uns treffen, sondern uns dabei helfen, blitzschnell ethisch fundierte Entscheidungen zu fällen.