Pharmaphone: KI-Telefonassistent für ApothekenPharmaphone

Datenschutz und KI-Recht

EU AI Act für Apotheken: Was gilt für Betreiber?

· Pharmaphone, RR42 UG (haftungsbeschränkt)

Kurz gesagt: Die KI-Verordnung (Verordnung (EU) 2024/1689) unterscheidet Anbieter und Betreiber eines KI-Systems. Ihre Apotheke ist beim Telefonassistenten in der Regel Betreiber. Für Betreiber gelten vor allem die KI-Kompetenz nach Art. 4 und, je nach Einsatz, die Transparenzpflicht nach Art. 50.

Das ist eine allgemeine Information und keine Rechtsberatung.

Anbieter oder Betreiber?

Die Verordnung trennt zwei Rollen, die oft verwechselt werden:

RolleWerBeispiel
AnbieterEntwickelt das System und bringt es in VerkehrRR42 mit Pharmaphone
BetreiberSetzt das System unter eigener Verantwortung einIhre Apotheke

Die Abgrenzung ist einfach: Wer ein System baut und anbietet, ist Anbieter. Wer es für den eigenen Betrieb nutzt, ist Betreiber. Für Ihre Apotheke ist die Betreiberrolle maßgeblich. Ob sich im Einzelfall weitere Pflichten ergeben, hängt von der konkreten Nutzung ab. Wer ein System für andere Zwecke einsetzt, als der Anbieter vorgesehen hat, kann seine Rolle und damit seine Pflichten verändern.

Was gilt für Betreiber?

Für einen Telefonassistenten, der nicht als Hochrisiko-System eingestuft ist, stehen diese Punkte im Vordergrund:

  • KI-Kompetenz nach Art. 4: Ihr Personal muss über ausreichende Kenntnisse verfügen, um mit dem System sinnvoll umzugehen. Der Artikel zur KI-Kompetenz beschreibt das näher.
  • Transparenz nach Art. 50: Anrufer müssen erkennen können, dass sie mit einer KI sprechen. Pharmaphone setzt den Hinweis am Gesprächsbeginn um; jedes Gespräch beginnt damit, und der Hinweis lässt sich nicht abschalten.
  • Einsatz nach Vorgabe: Nutzen Sie das System für die Zwecke, für die es vorgesehen ist, und nicht für Aufgaben, die Ihr Team übernehmen muss.

Welche Pflichten im Einzelfall gelten, prüfen Sie am besten mit Ihrer Datenschutzbeauftragten oder einem Berater.

Wie ist Pharmaphone eingeordnet?

Pharmaphone gilt als EU-AI-Act-konform. Die Einordnung von Pharmaphone nach der KI-Verordnung samt Begründung erhalten Kunden vor der Freischaltung in Textform. Lesen Sie diese Unterlagen, bevor Sie den Dienst einsetzen, und heben Sie sie zusammen mit Ihren anderen Dokumenten auf. Mehr zur Einordnung finden Sie im Artikel zur Hochrisiko-Frage.

Die Einordnung bezieht sich auf den Dienst, wie er beschrieben ist. Wenn sich seine Funktionen ändern, sollten Sie nachfragen, ob die Einordnung weiterhin gilt.

Welche Fragen sollten Sie an den Anbieter stellen?

  1. Wie lautet die Einordnung des Systems, und wer hat sie erstellt?
  2. Ist die Begründung in Textform verfügbar?
  3. Welchen Hinweis hören Anrufer zu Beginn des Gesprächs?
  4. Welche Unterlagen erhalte ich, falls sich der Einsatz ändert?
  5. Wie informiert mich der Anbieter, wenn sich Funktionen des Dienstes ändern?

Was sollten Sie selbst tun?

Die folgende Reihenfolge lässt sich vor dem Start in einem Termin abarbeiten:

  1. Benennen Sie eine Person, die für den Einsatz des Telefonassistenten zuständig ist.
  2. Legen Sie die Unterlagen des Anbieters ab, vor allem die Einordnung samt Begründung.
  3. Schulen Sie Ihr Team in den Grenzen des Systems: keine Auskunft zu Lagerbestand, Verfügbarkeit oder Preisen, keine medizinische Beratung.
  4. Erklären Sie dem Team, wie der Hinweis am Gesprächsbeginn klingt und wann das System an Menschen übergibt.
  5. Dokumentieren Sie die Schulungen mit Datum, Teilnehmenden und Inhalten.
  6. Legen Sie fest, wann Sie die Unterlagen erneut prüfen, zum Beispiel bei einer Änderung des Dienstes oder neuem Personal.

Ein typischer Fehler ist, die Verantwortung beim Anbieter zu sehen und intern nichts zu regeln. Als Betreiber tragen Sie die Kompetenzpflicht für Ihr eigenes Personal, und das kann Ihnen kein Anbieter abnehmen.

Was das für Ihre Apotheke bedeutet

Als Betreiber tragen Sie Verantwortung für den Einsatz im eigenen Betrieb. Die Einordnung von Pharmaphone liegt schriftlich vor, und der Hinweis an Anrufer ist Teil des Dienstes. Ihre Aufgabe ist es, Ihr Team zu schulen und den Einsatz zu dokumentieren. Die Angaben zum Dienst finden Sie auf der Seite Datenschutz.

Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung.

Weiterlesen