KI-Companions: Vertrauen schafft Verantwortung. Ein Positionspapier zu Design- und Governance-Verantwortung über KI-Companions in Schweizer Unternehmen.
KI-Companions entwickeln sich zunehmend von funktionalen Chatbots zu persönlichen digitalen Begleitern. Sie kommunizieren fliessend und zugewandt, erinnern sich an frühere Interaktionen und können über längere Zeit Beziehungen zu Nutzerinnen und Nutzern aufbauen. Damit eröffnen sie Unternehmen neue Möglichkeiten im Kundenkontakt, zugleich entsteht eine neue Form unternehmerischer Verantwortung.
Mit dem Positionspapier «KI-Companions: Vertrauen schafft Verantwortung» bezieht Swiss Insights Stellung zu den Chancen und Risiken dieser Entwicklung. Denn je menschlicher ein KI-Companion wirkt, desto eher vertrauen ihm die Nutzenden, teilen persönliche Informationen und verlassen sich auf seine Empfehlungen. Die entscheidende Frage lautet deshalb nicht mehr, wie menschlich eine KI klingen soll, sondern welche Verantwortung aus dieser wahrgenommenen Menschlichkeit entsteht.
Als Verband der datengetriebenen Wirtschaft sehen wir dabei zwei zentrale Verantwortungsbereiche:
– Informationelle Verantwortung: Wie stellen Unternehmen sicher, dass Aussagen korrekt, Unsicherheiten transparent und Empfehlungen der jeweiligen Situation angemessen sind?
– Relationale Verantwortung: Wie können emotionale Abhängigkeiten, eine übermässige Beeinflussung oder unrealistische Erwartungen an die Beziehung mit einem KI-Companion verhindert werden?
– Wie lässt sich die Autonomie der Nutzerinnen und Nutzer schützen?
– Wann braucht es einen klaren Übergang zu menschlicher Unterstützung?
– Wie können problematische Nutzungsmuster frühzeitig erkannt und begrenzt werden?
Das Positionspapier von Swiss Insights zeigt auf, weshalb der verantwortungsvolle Einsatz von KI-Companions über Datenschutz und regulatorische Compliance hinausgeht. Unternehmen, die durch KI Vertrauen und langfristige Beziehungen schaffen, tragen eine besondere Fürsorgepflicht. Verantwortungsvolles Design und eine wirksame Governance werden damit zunehmend zu strategischen Erfolgs- und Differenzierungsmerkmalen.
Die Empfehlungen orientieren sich an den Grundsätzen Schadensvermeidung, Gerechtigkeit, Autonomie, Transparenz, Kontrolle und Rechenschaft. Sie reichen von der regelmässigen Überprüfung der Inhalte über den besonderen Schutz vulnerabler Gruppen bis hin zu klaren Zuständigkeiten, Frühwarnsystemen und Eskalationsmechanismen über den gesamten Lebenszyklus eines KI-Companions.
Unser Ziel ist es, Unternehmen eine praxisnahe Orientierung für den verantwortungsvollen Einsatz von KI-Companions zu bieten. Denn Vertrauen ist die Grundlage ihrer Wirksamkeit und zugleich der Ausgangspunkt für die Verantwortung, die Unternehmen gegenüber ihren Kundinnen und Kunden übernehmen müssen.
Das vollständige Positionspapier können Sie hier herunterladen: Swiss Insights Positionspapier «KI-Companions: Vertrauen schafft Verantwortung»