HWB-Position zum Verordnungsvorschlag der Europäischen Kommission zu einem „Rechtsakt über Künstliche Intelligenz“ COM(2021) 206 final

Der Anwendungsbereich für KI-Technologien wird auch den Facheinzelhandel erfassen, unabhängig davon, ob der stationäre bzw. der Online-Facheinzelhandel genannt ist. Bereits im Weißbuch der Kommission aus dem Jahr 2020 wurde der Einzelhandel als „sicherer Sektor“ definiert, aber da die Verordnung einen anwendungsbezogenen Ansatz verfolgt, werden die gesetzlichen Rahmenbedingungen Auswirkungen in unseren Branchensektor entfalten.

Grundsätzlich geht von den meisten KI-Systemen laut Kommission nur ein geringes oder gar kein Risiko aus. Jedoch können bestimmte KI-Systeme Risiken bergen, die jetzt angegangen werden müssten, damit es nicht zu unerwünschten Ergebnissen kommt. So könnte beispielsweise die Undurchsichtigkeit vieler Algorithmen zu Unsicherheiten führen und eine wirksame Durchsetzung der bestehenden Rechtsvorschriften im Bereich der Sicherheit und der Grundrechte behindern. Zur Bewältigung dieser Herausforderungen seien gesetzgeberische Maßnahmen nötig, um einen gut funktionierenden Binnenmarkt für KI-Systeme zu schaffen, der sowohl die Vorteile als auch die Risiken angemessen berücksichtigt. Gefahren lauern vor allem bei Anwendungen wie biometrischen Identifizierungssystemen oder KI-gestützten Entscheidungen, die wichtige persönliche Interessen berühren, z. B. in den Bereichen Personaleinstellung, Bildung und Erziehung, Gesundheitsversorgung oder Strafverfolgung.

Aus unserer Sicht ist diese Unterscheidungsansatz zu begrüßen, da damit nur in hochsensiblen Bereichen die umfängliche Anwendung der beabsichtigten europäischen Regulierung zum Tragen kommt.

Im Einzelnen:

• Um Innovationen zu fördern und zu schützen, ist es wichtig, dass die Interessen kleiner Anbieter und Nutzer von KI-Systemen besonders berücksichtigt werden.
  
  Folge: Für KMU kann es zum Beispiel sehr effektiv sein, einen Chatbot zu verwenden, um Kunden häufig gestellte Standardfragen wie beispielsweise zu Login-, Bezahl- und Versandinformationen oder Öffnungszeiten zu beantworten. Anhand einiger einfacher Fragen können Chatbots Kunden auch an die richtige Abteilung weiterleiten. Chatbots sind damit eines von vielen Werkzeugen, das für die Optimierung der Kundenkommunikation eingesetzt werden kann. Durch sie ist es möglich, die Verbesserung des Kundenerlebnisses und der Auswahl- bzw. Kaufentscheidung durch neue Formen der Beratung und individuelle Serviceangebote voranzutreiben.
  
  
• Das Inverkehrbringen, die Inbetriebnahme oder die Anwendung bestimmter KI-Systeme, die menschliches Verhalten verzerren sollen, wodurch physische oder psychische Schäden auftreten können, sollte laut Kommission verboten werden. Solche KI-Systeme würden unterschwellige Komponenten einsetzen, die Einzelpersonen aufgrund ihres Alters, ihrer körperlichen oder geistigen Unfähigkeit nicht wahrnehmen oder ausnutzen können. Sie würden dies mit
  der Absicht tun, das Verhalten einer Person materiell zu verfälschen, und zwar in einer Weise, die dieser oder einer anderen Person Schaden zufügt oder wahrscheinlich verursacht. Die Absicht kann nicht vermutet werden, wenn die Verzerrung menschlichen Verhaltens auf Faktoren außerhalb des KI-Systems zurückzuführen sei, die außerhalb der Kontrolle des Anbieters oder des Nutzers liegen. Forschung zu legitimen Zwecken in Bezug auf solche KI-Systeme sollte nicht durch das Verbot erstickt werden, wenn diese Forschung nicht auf die Verwendung des KI-Systems in Mensch-Maschine-Beziehungen hinausläuft, die natürliche Personen Schaden nehmen, und diese Forschung wird in Übereinstimmung mit anerkannten ethischen Standards für die wissenschaftliche Forschung durchgeführt.
  
  Folge: Hier ist eine präzisere Definition erforderlich. Denn die „Anwendung bestimmter KI-Systeme, die menschliches Verhalten verzerren sollen, wodurch physische oder psychische Schäden auftreten können“ muss explizit definiert werden. Beispielsweise darf gezielte Kundenwerbung in einem Möbelhaus nicht dazu führen, dass mit einer gezielten Werbung das menschliche Verhalten verzerrt wird. Vielmehr soll der Kunde Anregungen für kaufentscheidend relevante Artikel erhalten, um eine bessere Entscheidung bei seinem Einkauf zu tätigen (Hier: Kaufentscheidungsabwägung). Diese Werbung wird nicht zu einem physischen bzw. psychischen Schaden führen, sondern gibt dem Kunden mehrere Argumente für eine Kaufentscheidung an die Hand. Konkret bedeutet dies, dass mittels künstlicher Intelligenz das Unternehmen große Datenmengen ihrer Kunden analysieren und ihnen dann einen individuell maßgeschneiderten relevanten Content aufzeigen kann.
  
  Durch das Machine Learning verstehen Computer die menschliche Sprache immer besser. Daher können Computer auch angemessen antworten. Zu den wichtigsten Anwendungsbereichen von sogenanntem Natural Language Processing (NLP) gehören Übersetzungen, Spracherkennung und die Sentiment-Analyse. Die Spracherkennung ist zudem mit Lösungen wie Hey Google, Siri und Alexa bereits weit in unseren Alltag vorgedrungen. Der Einsatz dieser Systeme kann bei einem Kauf eines Produktes hilfreich sein, um auf gezielte Fragen gezielte Antworten zu erhalten.
  
  Durch den Einsatz von KI kann auch beispielsweise die Mustererkennung aus einer Vielzahl von Daten und der Ermittlung einer Kausalität zwischen diesen (z.B. dem Kaufverhalten der Kundschaft und externen Einflüssen wie Events, Wetter und Trends) hergestellt werden, so dass Warensortimente optimal und dynamisch angepasst werden können. Bei diesen Faktoren kann auch der intelligente Personalplanungseinsatz den Betrieben und den Kunden (hier: bessere Kundenzufriedenheit) helfen.

Fazit:
Der Handelsverband Wohnen und Büro e.V. (HWB) unterstützt den neuen risikobasierten Ansatz der Kommission. Die Einführung von KI-Systemen verspricht große gesellschaftliche Vorteile, mehr Wirtschaftswachstum und Innovation und eine gesteigerte weltweite Wettbewerbsfähigkeit der EU.

Köln, Juni 2021