Ute Schmid, ist KI eine Gefahr für die Menschheit?

Shownotes

Dieser Podcast wird möglich gemacht durch die Unterstützung von Maintal-Betten. Das Familienunternehmen führt in Reundorf bei Lichtenfels den größten Werksverkauf für Polster- und Boxspringbetten in ganz Bayern und setzt dabei auf Ökologie und Nachhaltigkeit. Mehr über unseren Partner auf www.maintal-betten.de

Längst ist KI Teil unser aller Leben; wir wissen nur nicht immer, wann und wo.

Die Preise für ein Flugticket sind abhängig von der Art des Geräts, auf dem es gebucht wird.

Algorithmen auf Facebook und Instagram spielen personalisierte Werbung und Inhalte aus.

Netflix, Amazon und Spotify errechnen, was uns mit großer Wahrscheinlichkeit interessiert.

Auch das ist KI.

Spätestens seit der Veröffentlichung von ChatGPT Ende 2022 ist auch „generative“ KI – also eine, die neue Inhalte selbst erstellt – in das Bewusstsein der Nicht-Informatiker gerückt.

**Ute Schmid: Koryphäe auf dem Feld der KI ** Prof. Ute Schmid befasst sich seit den 1990er Jahren mit Künstlicher Intelligenz. Die Diplom-Psychologin und Diplom-Informatikerin lehrt seit 2004 als Professorin für Angewandte Informatik an der Uni Bamberg.

Im Podcast „Fränkischer Talk“ gibt sie einen umfassenden Einblick in die Künstliche Intelligenz: Wo stehen wir gerade in der Wissenschaft und in der täglichen Nutzung?

Warum kann eine KI Tumore erkennen, aber keine Katzen oder Ampeln?

Und kann eine KI ein Bewusstsein entwickeln und damit mächtiger und intelligenter werden als der Mensch?

In dieser Episode gibt sie ihre Einschätzung dazu ab und erklärt, was Politik, Gesellschaft und Wissenschaft jetzt tun sollten, damit KI in Zukunft hilfreich, nützlich und vor allem vertrauenswürdig und sicher ist.

Sie hören das ganze Gespräch kostenlos auf Spotify, Apple Podcasts und überall, wo es gute Podcasts gibt – oder einfach direkt hier:

**Sieben Kriterien für vertrauenswürdige KI ** Im Gespräch nennt sie sieben Kriterien, die sicherstellen sollen, dass KI vertrauenswürdig ist. Sie erklärt, warum eine KI Fehler macht und warum das zum sofortigen Vertrauensverlust führt.

Und sie warnt deutlich vor einer Vermenschlichung von Technik – etwa durch das Vorgaukeln von Empathie durch KI-Tools sowie vor der Entmenschlichung durch den Einsatz von Robotik und KI, etwa in der Pflege.

**KI als Schwerpunkt an der Universität in Bamberg ** Wenn es um KI geht, macht Ute Schmid niemand etwas vor. Sie forscht in den Bereichen Künstliche Intelligenz, maschinelles Lernen und kognitive Modellierung. Seit 2020 ist Ute Schmid Mitglied im Direktorium des Bayerischen Instituts für Digitale Transformation (bidt). Sie leitet die Projektgruppe "Erklärbare KI" am Fraunhofer Institut für Integrierte Schaltungen. Und sie ist seit der Gründung im vergangenen Jahr geschäftsführende Direktorin des Bamberger Center for Artificial Intelligence (BaCAI).

Das BaCAI umfasst acht reine KI-Professuren und verbindet sie mit weiteren Professuren für Informatik und Wirtschaftsinformatik mit starken Bezügen zur KI sowie KI-Anwendungen in Industrie, Gesundheitswesen und Bildung.

**Frauen in der Informatik und KI in der Bildung ** Ute Schmid setzt sich außerdem für zwei weitere Themen ein:

Sie fördert als Beauftragte seit 2004 einen leichteren Zugang für Mädchen und Frauen in die Informatik. Sie selbst hatte sich zunächst für ein „typisches Frauen-Studium“ – wie sie selbst sagt – entschieden: Psychologie. Wie sie von dort zur Informatik kam, erzählt sie im „Fränkischen Talk“. Außerdem bringt sie die Themen Informatik und KI in Vor- und Grundschulen und setzt sich dafür ein, dass Lehrkräfte in allen Schul- und Bildungsformen das nötige Wissen über KI und Informatik erhalten.

Sie leitet die Fraunhofer IIS Projektgruppe Erklärbare KI. Ute Schmid widmet sich zudem intensiv der Förderung von Frauen in der Informatik und bietet bereits seit 2005 Informatik-Workshops für Kinder und Jugendliche an. Sie ist seit 2005 Fakultätsfrauenbeauftragte (nur unterbrochen durch ihre Zeit als Dekanin der Fakultät von Oktober 2017 bis September 2019).

Ute Schmid wurde mit folgenden Preisen und Fellowships ausgezeichnet:

Rainer-Markgraf-Preis Minerva Informatics Equality Award Fellow der Europäischen Vereinigung für künstliche Intelligenz Fellow der Gesellschaft für Informatik