Zusammenfassung der Ideen und Fertigstellen der Resolution

Forderungen des deutschen ingenieurinnenbundes (dib) e.V. zum Thema „Künstliche Intelligenz“ (KI)

Das Thema KI gewinnt immer mehr an Bedeutung. Der unbekümmerte Umgang mit der Bereitstellung von Daten, der Erstellung von Algorithmen und der Nutzung der Daten sowie die Unterrepräsentanz von Frauen im KI-Umfeld haben jedoch weitreichende Auswirkungen.

Daher fordert der deutsche ingenieurinnenbund (dib e.V.):

Rechtliche und ethische Verantwortung

• den Gesetzgeber auf, situationsangepasste klare juristische Regelungen zu schaffen für Entwicklung, Herstellung, Inbetriebnahme, Einsatz, Nutzung und Wartung von KI-Systemen. Insbesondere muss er für Klarheit darüber sorgen, wer die Verantwortung übernimmt und sicherstellen, dass der Gebrauch von KI-Systemen bestimmungsgemäß und gendergerecht erfolgt und auf entsprechenden ethischen Grundsätzen beruht. Es muss offengelegt werden, wann und welche Entscheidungen bereits jetzt von KI getroffen werden.
• Politik und Medien auf, eine gesamtgesellschaftliche Diskussion anzustoßen, um Chancen und Risiken transparent zu machen, gegeneinander abzuwägen und einen öffentlichen Wertediskurs zu eröffnen, auch darüber, welche gesellschaftlichen Prozesse sich überhaupt für algorithmische Entscheidungssysteme eignen und nach welchen Kriterien sie optimiert werden sollen. Ein Awareness-Prozess für diese Fragestellungen ist erforderlich, der wiederum einen Informations- und Kommunikationsprozess voraussetzt.

Datengrundlage

• den Gesetzgeber auf, alle Personen und Organisationen, die Daten erheben und einsetzen zu verpflichten, diese einer kritischen Analyse zu unterziehen. Da das lernende System immer auf Bestehendem aufbaut ist die Transparenz und Überprüfung der Eingangsdaten einschließlich ihrer Bewertung von entscheidender Bedeutung. Sonst besteht die Gefahr, dass bestehende Ungleichheiten, Klischees und Rollenstereotype zementiert oder sogar potenziert werden, z. B. nur männliche Bewerber kommen weiter, da der Algorithmus aus den Daten gelernt hat: „Führungskräfte sind Männer“. Dazu gehören auch Überlegungen und Regelungen wie neues Gedankengut eingebracht und Vielfalt erhalten werden können.

Nutzung der Ergebnisse

• Politik und Gesetzgeber auf, geeignete und gendergerecht besetzte Kontrollgremien zu schaffen, die für Transparenz sorgen, Datenmissbrauch verhindern und überprüfen, ob der jeweilige gesellschaftliche Prozess sich für algorithmische Entscheidungssysteme eignet. Nur so können globale Firmenmacht und übergreifende Staatsmacht verhindert werden, die lernende Systeme wie die autonome Gesichtserkennung z.B. beim chinesischen Social Scoring System einsetzen und Wahlen manipulieren.

Umsetzung in der Industrie

• Firmen auf, eine von den Problemen der Praxis ausgehende Auswahl der Eingangsdaten und eine Gestaltung der KI sicherzustellen, die auf dem Kontextwissen der Beteiligten und der kritischen Analyse der Daten beruht. Die Grenzen durch die Vereinfachung bei der Erfassung der komplexen Realität durch Daten sollen reflektiert werden. Um neues Gedankengut einbringen zu können und Innovation zu generieren, müssen entsprechende Regeln formuliert, der Datenbestand kritisch untersucht und ein entsprechendes Bewusstsein geschaffen werden.

Genderaspekte

• Politik und Forschung auf, bei Förderung und Zusammensetzung von Forschungsgruppen auf Diversität zu achten, diese als Kriterium in die Vergaben einfließen zu lassen und Genderaspekte in der Forschung zu berücksichtigen.
• Firmen auf, bei der Bereitstellung von Daten und Algorithmen für lernende Systeme gemischte Teams einzusetzen, Algorithmen und Daten permanent auf Gender / Diversität zu überprüfen. Sonst besteht die Gefahr, dass bestehende Ungleichheiten und Rollenklischees manifestiert oder gar potenziert werden.