Father and son on home counseling therapy. Post pandemic period. Belgrade, Serbia

Wie menschlich kann Künstliche Intelligenz sein?

Künstliche Intelligenz wird für Gesellschaft und Unternehmen immer wichtiger. Wie verändert sich dabei die Interaktion des Menschen mit KI?

Das Potenzial Künstlicher Intelligenz (KI) ist groß – sowohl im privaten Bereich als auch aus unternehmerischer Sicht. Dabei verändert sich die Technologie stetig und unterliegt verschiedenen Einflussfaktoren. Wer versucht, diese Entwicklungen zu verstehen, neue Perspektiven zu betrachten und sich auf zukünftige Tendenzen einzustellen, macht sich fit für die digitale Zukunft.

Eine entscheidende Frage, die dabei in der bisherigen Diskussion vernachlässigt wurde, ist: Wie wird sich die Interaktion zwischen Mensch und KI verändern? Mit Blick in die Zukunft haben wir dazu zusammen mit der Projektgruppe Wirtschaftsinformatik des Fraunhofer-Instituts für Angewandte Informationstechnik FIT zehn Thesen formuliert, die durch einen intensiven Austausch mit KI-Experten und KI-Lösungsanbietern aus Forschung und Praxis entstanden sind.

ey-mensch-ki-interaktion-grafik

Die erste These bezieht sich auf eine grundlegende Veränderung der KI und steht deshalb übergreifend über den anderen neun Thesen.

These 1: Personalisierung, soziale Elemente, Aufgabenvielfalt und Kontextverständnis

Mit der fortschreitenden Entwicklung von KI nehmen auch Personalisierung, soziale Elemente, Aufgabenvielfalt und Kontextverständnis von KI in Interaktionen mit dem Menschen zu.

KI-Lösungen werden persönlicher. Das heißt: Individuelle Wünsche und Präferenzen der Nutzer werden in Zukunft stärker berücksichtigt. Dabei greift KI auf persönliche Daten zurück, die z. B. durch persönliche Assistenten gesammelt werden. Auch soziale Elemente werden eine größere Rolle spielen und gestalten die Mensch-KI-Interaktion empathischer und individueller.

Insgesamt wird sich die Technologie in Unternehmen und der Gesellschaft weiter etablieren, was zur Folge hat, dass KI immer mehr Aufgaben übernimmt. Aus den daraus gewonnen Daten kann die Technologie zukünftig nicht nur den Kontext besser einordnen, sondern sich dadurch auch spontan an die jeweiligen Rahmenbedingungen anpassen (z. B. andere Interaktionspartner oder Stimmungslagen). Auch diese Entwicklung wird die Mensch-KI-Interaktion beeinflussen.

Alle weiteren Thesen werden in den folgenden drei Kapiteln vorgestellt.

Businessman checking robots with digital tablet in high tech company
1

Kapitel 1

What?

Was sich zukünftig bei den Rollen und Aufgaben von KI verändert

KI entwickelt sich technologisch weiter, wodurch sie einen steigenden Einfluss auf Unternehmen und die Gesellschaft haben wird. Doch was heißt das für die Rollen und Aufgaben der KI?


KI ist nicht mehr nur ein Intelligenzverstärker, sondern ein Partner.


These 2: Hybride Intelligenz

Interaktionen zwischen Mensch und KI bilden die Basis für das Zusammenführen ihrer jeweils einzigartigen Fähigkeiten.

Schon heute arbeiten Mensch und KI zusammen. Dabei ergänzen sie sich mit ihren jeweiligen Stärken: KI-Technologien etwa haben Zugriff auf riesige Datenmengen und der Mensch zieht logische Schlussfolgerungen aus ihnen. Bisher ist es aber meist noch der Mensch, der bei der Zusammenarbeit der eigentliche Problemlöser ist. Das wird sich jedoch ändern.

KI wird immer leistungsfähiger und die Interaktion mit den Menschen wechselseitiger. Die Folge: Es entsteht eine hybride Intelligenz. Dabei wird KI den Menschen zukünftig bei komplexen Problemen stärker beraten, Entscheidungen eigenständiger treffen und kreative Aufgaben lösen. KI ist nicht mehr nur ein Intelligenzverstärker, sondern ein Partner. Beide Seiten arbeiten als Team.

These 3: Handlungsfreiheit

KI erhält analog zu Menschen in unterschiedlichem Maße Handlungs- und Entscheidungsspielraum.

Wie viel Handlungs- und Entscheidungsspielraum sollte der Mensch der KI gewähren? Das hängt von der jeweiligen Aufgabe ab und kann unterschiedlich ausfallen. Zukünftig können Teams der KI beispielsweise – analog zu einem menschlichen Teammitglied – mehr Autonomie einräumen, wenn die Interaktion erfolgreich war. Emotionale Reaktionen und Verantwortungsbewusstsein bleiben jedoch weiterhin dem Menschen vorbehalten.

Bei sich wiederholenden oder ungeliebten Aufgaben wiederum soll KI dem Menschen helfen. Dabei wird der Handlungsspielraum aber auf einzelne Aufgaben oder Entscheidungen begrenzt. Der Grund: Es gibt noch unbeantwortete Fragen in Sachen Haftung und Verantwortung (z. B. bei autonom fahrenden Autos). Erst wenn diese geklärt sind, kann KI innerhalb der Interaktionen eigenständiger handeln.

These 4: Interaktionstypen

Die Interaktionstypen entwickeln sich in Richtung zweier Extreme: KI als Automat und KI als Partner.

Dadurch, dass KI grundsätzlich persönlicher wird, gleichzeitig aber auch den Interaktionskontext besser versteht, bilden sich in Zukunft vor allem zwei Interaktionstypen heraus: der „Schutzengel“ und der „beste Freund“.

  • Der „Schutzengel“ handelt meist eigenständig und bezieht den Nutzer dabei nicht bewusst in seine Handlungen ein. Ein Beispiel sind hier intelligente Spam-Filter.
  • Der „beste Freund“ hingegen baut eine starke Bindung zwischen Mensch und KI auf. Er steht ihm als Partner im Alltag zur Seite, hat aber wenig Handlungsspielraum (z. B. soziale Chatbots).
Girl talking on phone using digital tablet
2

Kapitel 2

How?

Wie sich der Verlauf von Mensch-KI-Interaktionen verändert

In Zukunft werden sich nicht nur die Rollen und die Aufgaben der KI verändern, sondern auch der Verlauf der jeweiligen Interaktionen zwischen Menschen und KI.

 

These 5: Interaktionskanäle

Mensch-KI-Interaktionen verlaufen immer unmittelbarer und damit weitgehend unabhängig von spezifischen Interaktionskanälen.

Eine weitere nennenswerte Entwicklung in der Mensch-KI-Interaktion betrifft die Kanäle. Bisher findet die Interaktion häufig nur über einen oder wenige Kanäle statt (z. B. Sprache, Text oder Haptik). Zukünftig wird die Wahl des Kanals jedoch flexibler sein und beliebig kombiniert werden können.

Die Folge: KI reagiert nicht mehr nur auf explizite Anweisungen des Nutzers, sondern zukünftig auch auf implizite Signale oder den Interaktionskontext. Diese Entwicklung ermöglicht es KI-Lösungen, Prozesse automatisch im Hintergrund zu steuern, sofern sie keine hohe Wechselseitigkeit benötigen.

 

These 6: KI-Nutzererlebnis

Das Nutzererlebnis mit KI entwickelt sich zu einer übergreifenden und durchgängigen User Journey.

Die Interaktionen mit KI werden für den Menschen in Zukunft intuitiver und kontextabhängiger. Grund dafür ist, dass sich die verschiedenen KI-Systeme stärker untereinander austauschen und Zusammenhänge berücksichtigen werden. Dabei gelangen Informationen und Präferenzen der Nutzer mithilfe von Schnittstellen und einem Technologieintermediär nahtlos von einem KI-Anwendungsfall zum anderen.

Ein Beispiel: Schon heute können Nutzer direkt über einen intelligenten Assistenten, den sie privat nutzen, anstehende Termine im Unternehmenskalender eines anderen intelligenten Assistenten abfragen.

These 7: Erwartungshaltung

KI passt sich durch eine inhalts- und kontextgerechte Bereitstellung von Services der Erwartungshaltung des Menschen an.

Überhöhte oder falsche Erwartungen können bei der Mensch-KI-Interaktion ungemein frustrierend sein. Derzeit gibt es noch oft eine Lücke zwischen erwartetem Nutzen der KI und dem tatsächlichen Potenzial. Dabei kann der Mensch den Nutzen und Funktionsumfang der KI auch unterschätzen und folglich nicht vollständig ausschöpfen. Diese Lücke wird durch technologischen Fortschritt und personalisierte KI-Lösungen zukünftig geschlossen. Dabei passt sich KI der Erwartungshaltung des Nutzers an – und kann diese sogar voraussagen.

Human holding a robotic hand.
3

Kapitel 3

So what?

Welche Implikationen sich für zukünftige Mensch-KI-Interaktionen ergeben

Zuletzt stellt sich die Frage: Und was bedeuten diese Entwicklungen nun für die Mensch-KI-Interaktionen? Diese drei Thesen wagen Prognosen.


KI-Agenten werden sich in Zukunft weniger als heute am menschlichen Vorbild orientieren.


These 8: Anthropomorphologie

Das Erscheinungsbild von KI muss sich (äußerlich und funktional) immer weniger am menschlichen „Vorbild“ orientieren.

KI-Agenten werden in Zukunft weniger als heute dem Menschen nacheifern. Bisher wurden KI-Lösungen mit möglichst vielen menschlichen Eigenschaften – sowohl äußerlich als auch funktional – versehen. Das sollte dazu beitragen, dass die Gesellschaft die neue Technologie stärker akzeptiert und ihr vertraut. Je etablierter die KI-Systeme jedoch sind, desto weniger benötigen sie dieses Erscheinungsbild. Außerdem wirkt sich das menschenähnliche Aussehen nicht immer positiv auf die Interaktion aus – beispielsweise in der Pflege. Manche Patienten schämen sich etwa in besonders intimen Situationen, wenn ihnen ein Roboter hilft, der einem Menschen zu ähnlich ist.

These 9: Vertrauen

Vertrauen in Mensch-KI-Interaktionen muss durch wiederholte positive Ergebnisse und/oder durch den Aufbau einer sozialen Bindung geschaffen werden.

Wie entsteht Vertrauen innerhalb von Mensch-KI-Interaktionen? Es gibt zwei Wege: positive Erfahrungen während der Zusammenarbeit und soziale Bindungen zwischen Mensch und KI. Gerade Letzteres wird sich in den nächsten Jahren verändern: Die Aufgaben der KI werden immer komplexer, weshalb emotionale Fähigkeiten stärker gefragt sind. Vertrauen basiert zukünftig nicht mehr nur auf geringen Fehlerquoten, sondern vielmehr auch auf sozialen Elementen.

These 10: Ethik und Moral

Ethik und Moral sind zentrale Bestandteile der Mensch-KI-Interaktion und erfordern neben dem daten- auch ein wertegetriebenes Lernen.

Die letzte These thematisiert zwei zentrale Bestandteile der Mensch-KI-Interaktion: Ethik und Moral. Nicht nur bei der zwischenmenschlichen Interaktion sind beide Aspekte von Bedeutung, auch in Bezug auf KI spielen sie eine immer größere Rolle. Wie die Interaktionen geführt werden, hängt dabei nicht nur von den Daten vergangener Interaktionen ab, sondern auch von gesellschaftlichen und individuellen Ethik- und Moralvorstellungen. Als Konsequenz daraus wird die Mensch-KI-Interaktion persönlicher. Dennoch müssen zukünftig noch Aspekte wie Transparenz oder Vergleichbarkeit der Interaktionen berücksichtigt werden – oder die Frage: Wer haftet, wenn KI versagt?

Think beyond tomorrow: neue KI-Studie

Alle zehn Thesen geben einen wichtigen Einblick in die mögliche zukünftige Entwicklung der KI und damit auch in die Interaktion zwischen Mensch und KI. Sie sind Teil unserer neuen EY-Studie „KI, mein Freund und Helfer – Herausforderungen und Implikationen für die Mensch-KI-Interaktion”, welche die Gestaltungsdimensionen, die Einflussfaktoren und charakteristische Typen von Mensch-KI-Interaktionen beleuchtet. Sie zeigt u. a., wie KI den Alltag von Menschen verändert und welche Chancen, Herausforderungen und Handlungsfelder sich daraus für Unternehmen ergeben.

Fazit

Mit voranschreitender Technologie verändert sich auch die Mensch-KI-Interaktion: Sie wird persönlicher, intuitiver und komplexer. Sie wirft für die Zukunft aber auch Fragen auf, etwa hinsichtlich der Handlungsfreiheit und Ethik. Wer diese Entwicklungen jetzt diskutiert und ihre Implikationen versteht, kann rechtzeitig reagieren – und damit wichtige Weichen für unsere Zukunft mit KI stellen.

Mehr zum Thema

    Über diesen Artikel