Deutscher Bundestag veröffentlicht Studie zu ChatGPT

Selten hat ein Computersystem weltweit so viel Aufmerksamkeit und Debatten erregt wie ChatGPT seit seiner Einführung im November 2022. Der Chatbot beruht auf einem Computermodell, das mithilfe von Methoden der künstlichen Intelligenz (KI) auf die Verarbeitung sprachlicher Daten trainiert wurde. Er kann in kürzester Zeit eloquent erscheinende Antworten zu den unterschiedlichsten Themen generieren, ganze Essays oder Computerprogramme erstellen und Sprachstile wie Gedichte, Witze oder Erörterungen imitieren – und das in verschiedenen Sprachen.

Am Freitag, den 21.04.2023, hat der Ausschuss für Bildung, Forschung und Technikfolgenabschätzung des Deutschen Bundestages die im Februar 2023 in Auftrag gegebene Studie veröffentlicht. Darin werden die technologische Entwicklung von Computermodellen zur Sprachverarbeitung sowie ihre Möglichkeiten und Grenzen dargestellt. Zur Abschätzung der Chancen und Risiken, die sich aus der Anwendung von ChatGPT und vergleichbaren Systemen ergeben, werden konkrete Anwendungsszenarien in den Bereichen Wirtschaft, Gesundheit, öffentliche Kommunikation und Recht untersucht.

Potenziale der Systeme bestehen in der teilweisen Automatisierung der Produktion von Texten, der Softwareprogrammierung sowie der Übersetzung und Vereinfachung von Texten. Damit sind Entlastungs- und vor allem aber Rationalisierungseffekte erstmals auch in Branchen möglich, die bislang kaum von der Automatisierung durch Informations- und Kommunikationstechnologien betroffen waren. Es lassen sich auch gesellschaftliche Risiken identifizieren, etwa der Verlust der Vertrauenswürdigkeit von Informationen oder die Möglichkeit einer missbräuchlichen Nutzung, zudem können bestehende Ungleichheiten verstärkt und Diskriminierung Vorschub geleistet werden. Ziel der Studie ist es, für Politik und öffentliche Debatte relevante Fragestellungen abzuleiten, an denen sich eine an gesellschaftlichen Werten und Zielen ausgerichtete Entwicklung und Nutzung von ChatGPT und verwandten Systemen orientieren kann.

Um im Thema zu bleiben und ein weiteres Tool zu testen, habe ich die weitere Analyse mit dem KI-Tool ChatPDF durchgeführt. Dazu lädt man das PDF hoch und der Bot schlägt einem drei Fragen vor. Oder man stellt eigene. Hier das Ergebnis.

Fragen

Das Hintergrundpapier wirft verschieden Fragen auf, die im Zusammenhang mit ChatGPT und anderen Computermodellen zur Sprachverarbeitung diskutiert werden. Einige dieser Fragen sind:

• Wie können wir sicherstellen, dass diese Modelle nicht diskriminierend sind?
• Wie können wir verhindern, dass diese Modelle missbraucht werden, um Falschinformationen zu verbreiten oder Menschen zu manipulieren?
• Wie können wir sicherstellen, dass die Verwendung dieser Modelle transparent und nachvollziehbar ist?
• Welche Auswirkungen haben diese Modelle auf die Arbeitswelt und wie können wir sicherstellen, dass sie nicht zu Arbeitsplatzverlusten führen?
• Wie können wir sicherstellen, dass diese Modelle ethisch verantwortungsvoll eingesetzt werden?

Gibt es auch Antworten?

: Das Hintergrundpapier gibt keine direkten Antworten auf diese Fragen, sondern zielt darauf ab, Fragestellungen abzuleiten, unter denen die Rolle von KI-Modellen zur Sprachverarbeitung weiter beobachtet und untersucht werden kann. Es werden jedoch verschiedene Aspekte diskutiert, die bei der Beantwortung dieser Fragen berücksichtigt werden sollten. Zum Beispiel wird darauf hingewiesen, dass es wichtig ist, die Verwendung dieser Modelle transparent und nachvollziehbar zu gestalten und sicherzustellen, dass sie ethisch verantwortungsvoll eingesetzt werden. Es wird auch betont, dass weitere Forschung notwendig ist, um die Auswirkungen dieser Modelle auf die Gesellschaft besser zu verstehen und um mögliche negative Folgen zu vermeiden.

Welche Anwendungsbereiche werden in dem Papier positiv hervorgehoben?

/md: Ein Bereich, der positiv hervorgehoben wird, ist die Bildung. Es wird darauf hingewiesen, dass diese Modelle dazu beitragen können, den Lernprozess zu verbessern, indem sie personalisierte Lerninhalte bereitstellen und Feedback geben. Darüber hinaus können sie auch bei der Erstellung von Lehrmaterialien und bei der Entwicklung von Sprachlern-Apps eingesetzt werden. Weitere Anwendungsbereiche, die diskutiert werden, sind unter anderem die Medizin, die Automobilindustrie und die Finanzbranche.

Gibt es Bereiche, die kritisch gestellt sind?

/md: Ja, ein Bereich, der kritisch betrachtet wird, ist die mögliche Verbreitung von Falschinformationen und die Manipulation von Menschen durch den Einsatz dieser Modelle. Es wird darauf hingewiesen, dass diese Modelle dazu verwendet werden können, gefälschte Texte und Nachrichten zu erstellen, die schwer von echten Texten zu unterscheiden sind. Ein weiterer kritischer Aspekt ist die mögliche Diskriminierung von bestimmten Gruppen durch diese Modelle. Wenn die Trainingsdaten nicht ausgewogen sind oder bestimmte Gruppen unterrepräsentiert sind, können diese Modelle dazu neigen, Vorurteile und Diskriminierung zu reproduzieren.

Welche möglichen Auswirkungen haben diese Modelle auf die Gesellschaft und wie können negative Folgen vermieden werden?

: Das Hintergrundpapier diskutiert verschiedene mögliche Auswirkungen von ChatGPT und anderen Computermodellen zur Sprachverarbeitung auf die Gesellschaft. Einige dieser Auswirkungen sind positiv, wie zum Beispiel die Verbesserung des Lernprozesses oder die Unterstützung von medizinischen Diagnosen. Es gibt jedoch auch mögliche negative Auswirkungen, wie zum Beispiel die Verbreitung von Falschinformationen oder die Diskriminierung bestimmter Gruppen. Um negative Folgen zu vermeiden, schlägt das Hintergrundpapier verschiedene Maßnahmen vor. Zum Beispiel wird betont, dass es wichtig ist, die Verwendung dieser Modelle transparent und nachvollziehbar zu gestalten und sicherzustellen, dass sie ethisch verantwortungsvoll eingesetzt werden. Es wird auch empfohlen, dass diese Modelle regelmäßig überprüft werden sollten, um sicherzustellen, dass sie nicht diskriminierend sind oder Falschinformationen verbreiten. Darüber hinaus wird betont, dass weitere Forschung notwendig ist, um die Auswirkungen dieser Modelle auf die Gesellschaft besser zu verstehen und um mögliche negative Folgen zu vermeiden. Es wird empfohlen, dass Regulierungsbehörden und andere Interessengruppen zusammenarbeiten sollten, um sicherzustellen, dass diese Modelle verantwortungsvoll eingesetzt werden und um mögliche Risiken zu minimieren.

… Stay tuned …

Quelle: Studie zu ChatGPT für den Deutschen Bundestag

Hintergrundbericht des Büros Technikfolgenabschätzung (gewissermaßen ChatGPT analog 😉)

Ausschussitzung: Aufzeichnung in der Mediathek des Parlamentsfernsehen

Bildnachweis: Bildausschnitt aus Cover