Zum Inhalt springen

Wie die KI-Debatte falsch läuft und wo Software heute teilautonom entscheidet

Konrad Lischka
Konrad Lischka
2 minuten gelesen
Wie die KI-Debatte falsch läuft und wo Software heute teilautonom entscheidet

Anfang 2015 hat Elon Musk dem Future of Life Institute 10 Millionen Dollar gespendet, damit künstliche Intelligenz zum Wohle der Menschheit arbeitet. Das Paper, das dieses Grundlagen-Forschungsvorhaben umreißt, hat mich überzeugt, dass es heute Zeit ist, sich darüber Gedanken zu machen. Es gibt heute keine generelle Künstliche Intelligenz, ganz zu schweigen von einer Superintelligenz.

Aber seit einigen Jahren macht für spezielle Aufgaben (Gesichtserkennung, Spracherkennung, Übersetzung) entwickelte Software enorme Fortschritte. Programme erledigen einige früher Menschen vorbehaltene Aufgaben nunmehr gut genug für den produktiven Einsatz.

Und hier sehe ich ein Problem: Das gut genug in dieser Formulierung wird selten präzisiert, unabhängig untersucht und quantifiziert. Wir denken bei KI an Shodan, das Master Control Program, Terminator und derlei und unterschätzen dabei die aktuelle Wirkung von Software. Es ist nicht so, das Software in einer entfernten Zukunft autonom entscheidet. Software tut das heute in speziellen aber sensiblen Aufgabengebieten.

Ein Beispiel: Vor zwei Jahren fand ein Systemingenieur zufällig heraus, dass Software in Profi-Kopierern unter bestimmten Umständen Zahlen in Scans vertauscht. Aus einer 6 im Original wird eine 8 in der digitalen Kopie. Banal, denkt man. Dann denkt man weiter: Mit den Geräten arbeiten Architekten, Buchhalter, Rechnungsprüfer usw..

Es wäre gut, wenn es eine Debatte gäbe. Voraussetzung: Es geht nicht um Science Fiction, sondern um die Gegenwart. Eine Kernfrage ist heute wie übermorgen: Wie prüfen wir unabhängig, ob Software die abstrakt formulierten Ziele für ihren Einsatz erfüllt? Dabei wäre dann aber auch über die konkreten Ziele zu reden, die ein Unternehmen mit solcher Software verfolgt. Das kann sich von abstrakt und öffentlich formulierten Zielen unterscheiden.

Einige Beispiele dafür, was Software heute tut. Software…

Auf all diesen Gebieten sind schon heute die vier Forschungsfragen relevant, die das Future of Life Institute für Robuste KI formuliert hat:

  1. Verifizierung: Wie beweise ich, dass  das System die formellen Kriterien erfüllt? Oder: Habe ich das System richtig gebaut?
  2. Validität: Wie sichere ich, dass das System beim Erfüllen der formalen Kriterien nicht unerwünschte Verhaltensweisen und Folgen produziert? Oder: habe ich das richtige System gebaut?
  3. Sicherheit: Wie verhindere ich beabsichtigte Manipulation durch nicht autorisierte Dritte?
  4. Kontrolle: Wie ermögliche ich sinnvolle menschliche Kontrolle des Systems? Oder: Ich habe das System falsch gebaut, kann ich es reparieren?

Wäre doch gut zu wissen, oder? Ich würde eine fünfte Frage anhängen: Das es Software oft auf gesellschaftlich relevanten Feldern autonom handelnd, sollten die Antworten auf die Fragen 1 bis 4 öffentlich sein und eine Debatte anregen. Wie kriegt man das hin? Das finde ich wichtiger und spannender als Diskussion über Shodan & Co..

(Foto: NASA / Public Domain)

Blog

Konrad Lischka

Projektmanagement, Kommunikations- und Politikberatung für gemeinnützige Organisationen und öffentliche Verwaltung. Privat: Bloggen über Software und Gesellschaft. Studien, Vorträge + Ehrenamt.
Immer gut: Newsletter abonnieren


auch interessant

Kreisschlüssel und NUTS-3-Codes für alle deutschen Landkreise und kreisfreien Städte

Der Gleichwertigkeitsbericht der Bundesregierung 2024 ist ein echter Datenschatz: Indikatoren für alle 400 Kreise und Städte in Deutschland und dazu noch repräsentative Umfrageergebnisse ebenfalls kreisscharf aufgeschlüsselt. Leider ist die grafische Aufarbeitung auf Grafiken in einem PDF beschränkt. Da sind die Kommunen deutschlandweit so klein aufgelöst, dass man wenig vergleichen und

Kreisschlüssel und NUTS-3-Codes für alle deutschen Landkreise und kreisfreien Städte

Wenn Gott geht, bleibt das Geld

These: Die verbreitete und emotionale Ablehnung von Erbschaftssteuern hängt damit zusammen, dass es a) das Tabuthema Endlichkeit und Tod trifft und b) in der Makroperspektive mangels Glauben und Religiosität für viele eine befriedigende Antwort auf das danach fehlt.  Deshalb ist das Vererben der Weg zur Unsterblichkeit. Wer keinen Bezug zu

Wenn Gott geht, bleibt das Geld

Fun Facts: Vermeer, Jira, Rubens

Vermeer verkaufte die meisten Bilder an seine Nachbarn Klar, das Mädchen mit dem Perlenohrring! Hier etwas unnützes, weniger verbreitetes Wissen: Johannes Vermeer hat zeitlebens vielleicht 50 Bilder gemalt, 37 davon sind bis heute erhalten und 21 Gemälde hat er an seine Nachbarn in Delft verkauft, an Maria Simonsdr de Knuijt

Fun Facts: Vermeer, Jira, Rubens