Vorsorge, Digitalisierung

Chatbots – Science-Fiction im Alltag

Künstliche Intelligenz (KI) hat in den letzten Jahren eine rasante Entwicklung erfahren. Fortschrittliche Technologien und Algorithmen ermöglichen einen zunehmenden Einsatz von KI in Wissenschaft, Wirtschaft und Gesellschaft. Ein besonderer Fokus liegt momentan auf Computerprogrammen, die eine menschenähnliche Konversation ermöglichen, sogenannte Chatbots. Seit November 2022 ist der Chatbot „ChatGPT“ der Firma Open AI für die Öffentlichkeit frei zugänglich. Innerhalb kürzester Zeit entwickelte sich ein regelrechter Hype um diese neue Software. Doch neben allen revolutionären Aspekten dieser KI birgt sie auch Risiken und sorgt deshalb für viele Kontroversen, nicht zuletzt bezüglich ihres möglichen Einsatzes in der Medizin.

Chatbots: Dialog zwischen Mensch und Computer

Chatbots sind Computerprogramme, die durch natürliche Sprachverarbeitung und maschinelles Lernen Benutzeranfragen verarbeiten und automatisierte Antworten generieren. KI-basierte Chatbots sind mittlerweile in vielen Bereichen des Alltags integriert. Ob auf Unternehmenswebsites, im Kundenservice, in Messenger-Apps oder auf E-Commerce-Plattformen – Chatbots liefern schnelle und effiziente Reaktionen und steigern so die Kundenzufriedenheit. Auch in Bereiche der Medizin sind sie mittlerweile vorgedrungen. Schon in den vergangenen Jahren hat sich durch die zunehmende Digitalisierung die Informationsbeschaffung zu gesundheitsbezogenen Themen grundlegend geändert. Bisher wird im Internet vornehmlich „Dr. Google“ bei gesundheitlichen Fragestellungen von Patienten und Patientinnen konsultiert (siehe dazu unseren Blogbeitrag). Doch KI-basierte Chatbots stellen diesbezüglich eine Weiterentwicklung dar. Denn anders als Suchmaschinen liefern sie keine Liste mit Links zu diversen Websites, sondern produzieren eine individuelle Textantwort auf die jeweilige Fragestellung.

Was genau ist der ChatGPT?

Der ChatGPT ist ein öffentlich zugängliches KI-basiertes Sprachmodell der Firma Open AI. Microsoft hat in Edge und Bing bereits das GPT Model eingebaut, Google wird mit Bard einen Konkurrenten zu ChatGPT ins Rennen schicken. Die Abkürzung GPT steht für „Generative Pre-trained Transformer“. Der ChatGPT ist vereinfacht ausgedrückt ein künstliches neuronales Netz, welches in der Lage ist mit Menschen zu interagieren. Es wurde auf unzählige Texte und Datensätze trainiert und kann auf Textanfragen in Form von Konversation in unterschiedlichen Sprachen antworten und individuelle Texte generieren. Dieses KI-Modell besitzt ein breites Wissensspektrum auf verschiedensten Gebieten, einschließlich der Medizin. So könnte es in Zukunft als digitaler Assistent für Ärzte und Ärztinnen und Patienten und Patientinnen fungieren, indem es Fragen beantwortet, Informationen bereitstellt und in der Diagnostik unterstützt. In der medizinischen Forschung könnte ChatGPT eine wertvolle Unterstützung sein, da er in der Lage ist große Datenmengen schnell und effizient zu analysieren, wodurch Forschungsergebnisse schneller kommuniziert werden könnten. Amerikanische Forscher untersuchen zudem, ob die KI hinter dem Chatbot dabei helfen kann, durch die Analyse spontaner Sprache frühe Formen der Demenz zu erkennen, da Sprachstörungen ein erstes Merkmal neurodegenerativer Erkrankungen sein können.

Technische Revolution mit Tücken

ChatGPT kann, wie auch andere KI-Modelle, eine Hilfe dabei sein, Informationen schnell und effizient zu sammeln. Dabei ist es jedoch immer nur so gut, wie die Daten, mit denen es trainiert wurde. Besonders bei aktuellen Ereignissen oder schnelllebigen Trends können die gelieferten Informationen veraltet oder inkorrekt sein. In diesen Fällen kommt es auf die individuelle Medienkompetenz des Users an, um die ausgegebenen Ergebnisse richtig zu bewerten und zu nutzen. ChatGPT wurde mit verschiedenen Schutzmechanismen versehen, um schädliche oder falsche Antworten zu vermeiden; gänzlich ausgeschlossen werden können sie dadurch aber nicht. Zudem kann der Chatbot Probleme damit haben, komplexe Konzepte zu verstehen sowie in bestimmten Kontexten angemessen zu reagieren. Des Weiteren kann ChatGPT keine eigenen kreativen Problemlösungen finden. Er kann lediglich auf die Daten zurückgreifen, die ihm antrainiert wurden. In Bezug auf den Einsatz von ChatGPT in der Medizin sehen Ärzte und Ärztinnen diese Entwicklung teilweise mit Skepsis. Denn wie auch Suchmaschinen im Internet kann der Chatbot keine qualifizierte medizinische Beratung durch einen Arzt oder Ärztin ersetzen. Chatbots sind nicht in der Lage die teilweise komplexe Anamnese eines Patienten bzw. einer Patientin in ihre Antwort mit einzubeziehen. Gezieltes ärztliches Nachfragen kann wichtige Punkte der individuellen medizinischen Vorgeschichte zu Tage fördern, welche bei der Konsultation eines Chatbots unberücksichtigt bleiben. Auch werden genetische Prädispositionen, vorliegende Laborergebnisse oder bestehende Medikationen durch den Chatbot nicht beachtet. Ähnlich wie das Gesundheitssystem steht auch das Bildungssystem dem Einsatz von ChatGPT zwiegespalten gegenüber. Neben dem enormen Potenzial, dass diese Technologie bietet, fürchten Schulen und Universitäten um die schwindende Eigenleistung von Schülern und Schülerinnen bzw. Studenten und Studentinnen bei der Erstellung von Arbeiten.

Politik muss Grenzen definieren

Künstliche Intelligenz und maschinelles Lernen müssen zwingend politischen Regulierungen und Gesetzen unterliegen, damit sie verantwortungsvoll und ethisch korrekt eingesetzt werden. KI-Modelle sind in der Lage sensitive Informationen zu sammeln und zu verarbeiten, was zu einer Beeinträchtigung von Sicherheit und Privatsphäre führen kann. Hier steht besonders der Schutz personenbezogener Daten im Mittelpunkt. Des Weiteren muss die Frage der Verantwortung bei z. B. falschen Ratschlägen und den sich daraus ergebenen Konsequenzen geklärt werden. Ein generelles Verbot von Chatbots, z. B. an Schulen, halten Experten und Expertinnen für wenig sinnvoll und auch kaum durchsetzbar. Vielmehr müssen Rahmen definiert werden, in denen die neue Technologie in Unterricht und Lehre integriert wird.

Fazit

ChatGPT ist ein revolutionäres KI-Modell, welches bei richtiger Anwendung eine Vielzahl von Möglichkeiten liefert. Um die Erwartungen an dieses Tool realistisch einzuordnen, müssen aber auch die Grenzen und Risiken in Augenschein genommen werden. Es bleibt festzuhalten, dass es sich beim ChatGPT „nur“ um ein KI-Modell handelt und nicht um ein menschliches Wesen mit Empathie und sozialen Fähigkeiten. Somit kann diese Technologie in vielen Bereichen wertvolle Hilfestellung sein, jedoch niemals ein Ersatz für menschliche Kommunikation und Zusammenarbeit. Dies ist insbesondere bei der Betreuung von Patientinnen und Patienten zu beachten.

Referenzen:

  1. Bundesministerium für Bildung und Forschung: Künstliche Intelligenz;  zuletzt abgerufen am 06.02.2023
  2. Wikipedia: ChatGPT;  zuletzt abgerufen am 06.02.2023
  3. Sendinblue: Was ist ein Chatbot? Definition, Funktion und Einsatzbereiche; zuletzt abgerufen am 06.02.2023
  4. MoinAI: Chatbot-Beispiele aus der Praxis; zuletzt abgerufen am 06.02.2023
  5. Ärzteblatt: Künstliche Intelligenz für Ärzte und Patienten: „Googeln“ war gestern; zuletzt abgerufen am 06.02.2023
  6. Business Insider: Chat GPT sorgt für Aufregung – was ihr über den KI-Chatbot wissen müsst und wofür ihr ihn einsetzen könnt; zuletzt abgerufen am 06.02.2023
  7. Agbavor F, Hualou L. Predicting dementia from spontaneous speech using large language models. 2022 PLOS Digit Health 1(12): e0000168. doi.org/10.1371/journal.pdig.0000168  
  8. Süddeutsche Zeitung: Die gefühlte Revolution; zuletzt abgerufen am 06.02.2023
  9. Mdr Wissen: 100 Millionen aktive Nutzer: Ist ChatGPT der große KI-Durchbruch?; zuletzt abgerufen am 06.02.2023
  10. Mdr: Schulen und Hochschulen suchen den richtigen Umgang mit ChatGPT; zuletzt abgerufen am 06.02.2023
  11. Tagesschau: Wenn der Chatbot den Aufsatz schreibt; zuletzt abgerufen am 06.02.2023

Ihr Ansprechpartner

Dr. Martin Hampel
news@limbachgruppe.com

> zurück zum Blog

 

Um diese Webseite für Sie optimal zu gestalten und Zugriffe zu analysieren, verwenden wir Cookies. Mit Klick auf Zustimmen erklären Sie sich damit einverstanden. Ihre Zustimmung können Sie jederzeit widerrufen. Erfahren Sie mehr in unserer Datenschutzerklärung