19 KiB
Transkript – Florian Ernst, LST Stuttgart – IP8 Sprecher 1 Bitte stelle dich und deinen beruflichen Hintergrund und deine Rolle in der Leitstelle vor. 00:00:00 Sprecher 2 Ich heiße [IP8] und von der Bildungsseite habe ich einen Bachelor in Informatik, Master in Erwachsenenbildung und bin jetzt als Zugführer am Löschzug unterwegs und als stellvertretender Administrator in der Leitstelle [Ort in Baden-Württemberg]. Ich bin aber auch am Tisch als Ladedienstführer und betreue bei uns das Thema KI so ein bisschen. 00:00:51 Sprecher 1 Was sind deine spezifischen Aufgaben in deiner täglichen Arbeit in der Leitstelle? 00:01:07 Sprecher 2 Die Leitstelle am Laufen halten, als Administrator die ganzen Systeme überwachen, die Systeme pflegen, neue Systeme einführen, Marktanalysen machen: Was taugt für uns, was taugt für uns nicht? Als Lagedienst die Gesamtverantwortung für die Stadt, also Einsätze taktisch und als Zugführer, dann draußen auch im Löschzug die Gefahrenabwehr. 00:01:31 Sprecher 1 Hast du schon mal in einem Notruf Erfahrung mit Sprachbarrieren gemacht? 00:01:42 Sprecher 2 Ja, regelmäßig. [Ort in Baden-Württemberg] ist die bunteste Stadt in der Bundesrepublik, was die Sprachenvielfalt angeht und wir haben täglich das Problem mit der Sprachebarriere tatsächlich. 00:01:52 Sprecher 1 Wie geht ihr damit um, wenn Sprachbarrieren bei euch auftreten? 00:01:59 Sprecher 2 Kreativ! Man kennt die Kollegen, die eine Fremdsprache sprechen. Was semioptimal ist, wenn man die in der Freizeit anruft auf dem privaten Handy und sagt: „Hey, kannst du mal irgendwie übersetzen“. Dann haben wir verschiedene Polizeidienststellen, wo wir wissen, die sprechen Tschechisch, Russisch. Da wissen wir uns zu helfen. Es gibt die gängigen Sprachen, da wissen wir, an wen wir uns wenden können. Wenn es dann gar nicht geht, gehen wir über die Notaufnahmen von den großen Kliniken, weil die im Personalstand auch relativ viele Sprachen vertreten haben. Aber es ist natürlich alles nicht optimal. Datenschutztechnisch schon absolut nicht akzeptabel. 00:02:40 Sprecher 1 Also greift ihr da gar nicht unbedingt auf Dolmetscherbüros zurück? 00:02:45 Sprecher 2 Nee, gar nicht, weil das würde uns keiner zahlen. 00:02:52 Sprecher 1 Ist dir ein Beispiel hängen geblieben, bei dem die Sprachbarriere besonders herausfordernd war? 00:03:08 Sprecher 2 Zwei Stück sogar. Wir hatten einmal einen Italiener, der von einer Bande verfolgt wurde und eigentlich nur die Polizei haben wollte und wir haben eine halbe Stunde mit ihm telefoniert, um herauszufinden, was sein Problem ist. Das andere, ich weiß es nicht, war irgendwas im Osten. Ein LKW-Fahrer, der Suizidgedanken hatte und keiner wusste, was sein Problem ist. Es war auch ewig bis wir herausgefunden hatten in welche Richtung geht die Sprache, wo können wir ansetzen, wie können wir ihm helfen und das ist halt frustrierend. So was bindet auch die Ressourcen in der Leitstelle, die dann für andere Notrufe nicht verfügbar sind. 00:03:46 Sprecher 1 Nutzt du in deinem Alltag oder Berufsalltag irgendwelche KI-Systeme? 00:03:56 Sprecher 2 Ja, so der Klassiker, nur ChatGPT, um Sachen zu schreiben und tatsächlich Microsoft Copilot, so die Gängigen, sage ich mal. 00:04:08 Sprecher 1 In der Leitstelle habt ihr bei euch keine KI bisher im Einsatz? 00:04:13 Sprecher 2 Nee, wir hatten über die EM ein Pilotprojekt. Deshalb kämpfen wir da mit unseren Datenschützern und müssen die überzeugen, dass wir das brauchen, dass es Sinn macht, dass es eigentlich gar nicht so böse ist. 00:04:33 Sprecher 1 Was bedeutet für dich Vertrauen im Zusammenhang mit neuen Technologien, wie zum Beispiel einem KI-basierten Übersetzer? 00:04:46 Sprecher 2 Wir hatten WTG auch eingeladen zu dieser Herstellervorstellung und wie verschiedene Systeme arbeiten. Wenn man dann von anderen Herstellern mitkriegt, dass die die Google API nutzen, um zu übersetzen, das ist für uns schwierig das einzuordnen, gerade mit der Trump-Regierung. Momentan wollen wir unsere Daten tatsächlich an kein amerikanisches Unternehmen geben in welcher Form auch immer. Sowas müssen wir argumentieren vor unseren städtischen Datenschützern und da haben die einfach mehr Bedenken als wir in der Leitstelle. Wir sind da offen, haben da Bock drauf, aber der städtische Datenschutz sieht da Bedenken. 00:05:30 Sprecher 1 Wie war dein erster Eindruck von TONI nach der Vorstellung? 00:05:35 Sprecher 2 Also ich finde TONI cool, ich will TONI haben. Ich finde das Prinzip cool. Mit dieser Konferenzlösung finde ich einen megacoolen Ansatz und der funktioniert einfach, das ist das coole daran. Ich denke, zum Thema Datenschutz: das ist eine deutsche Firma, die in Deutschland ihren Sitz hat, die auf deutsche Infrastruktur aufbaut - das kann man relativ einfach argumentieren. Wenn man da Mitbewerber aus dem Ausland hat, dann wird es nachher schon schwierig, wenn man das dann auch nicht wirklich transparent macht. Transparenz ist also das A und O, dass man die Entscheidungsträger überzeugen kann, muss das transparent dargestellt werden, wo gehen die Daten hin, wie werden Sie verarbeitet, was wird gespeichert. Sonst kriegen wir die Kuh da nicht vom Eis. 00:06:25 Sprecher 1 Bei welchen Szenarien oder Anwendungen erachtest du KI als hilfreich für euch? 00:06:50 Sprecher 2 Im Krankentransport kann man da immer ganz viel mit KI machen, gerade auch was die Disposition von Fahrzeugen angeht, um da einfach aufgrund von Verkehrslage, Witterung, und was es da für viele Einflussfaktoren gibt, eine vernünftige Disposition hinkriegt. Momentan ist da so, je nachdem welcher Disponent dasitzt, hat man eine gute Disposition oder eine weniger gute Disposition. Ich glaube, da kann man viel machen. Letztendlich kann man denken, dann kann KI den Krankentransport an sich abarbeiten, also, wenn jemand 19222 anruft, wieso muss da ein Disponent rangehen? Letztendlich kann das auch eine KI, vielleicht nicht heute aber nach so fünf Jahren, warum denn nicht? Und dann Meinungsbilder aus der Stadt einholen, Social Media beobachten. Da kriegt man viel mit, wenn es am Wochenende wieder eine Schlägerei in der Innenstadt gibt. Ich denke mal, die KI kriegt das wahrscheinlich schneller mit, wenn die die Social-Media-Kanäle scannt als jeder von uns. Solche Trends, wo sich etwas entwickeln könnte und die KI vielleicht warnt: „Hey Obacht, da könnte was passieren, da braut sich was zusammen“. Oder auch Wetterbeobachtung - wir haben hier einen FeWIS-Zugang und wir können das auch alles beobachten, aber ich denke mal, dass eine KI das Feld unter Umständen nochmal einfach besser interpretieren kann oder einfach Hilfestellung zum Interpretieren geben kann. 00:08:20 Sprecher 1 Welche Vor- und Nachteile siehst du beim Einsatz von KI? 00:08:43 Sprecher 2 Ich denke mal der Vorteil von der KI ist bei großen Datenmengen. Also wenn ich viele Informationen verarbeiten muss, dann ist der Disponent irgendwo begrenzt ein Stück weit. Was nicht passieren darf, dass der Mitarbeiter das Gefühl hat, dass die KI übernimmt, weil ich glaube, dann ist die KI nicht akzeptiert und dann wird nicht damit gearbeitet und nicht vernünftig damit gearbeitet. Das wäre in meinen Augen falsch. Ich sage immer, das muss der Kollege sein, der nebendran sitzt und Händchen hält. 00:09:21 Sprecher 1 Gehen bei dir Hoffnungen oder Befürchtungen mit der Einführung von KI-basierten Technologien im Notrufdienst einher? 00:09:33 Sprecher 2 Das vielleicht die Kollegen leichtsinnig werden. Also die KI kann Empfehlungen aussprechen und sagen: „Hey, die Aussage des Anrufers deutet auf einen Herzinfarkt hin“, und da ist die Gefahr groß, dass der Disponent sagt: „Okay, ist ein Herzinfarkt“ und das gar nicht hinterfragt, ist die Entscheidung richtig oder kann es vielleicht auch noch ein anderes Thema sein. Da ist die Gefahr tatsächlich hoch, dass man sich davon leiten lässt, die Meinung der KI zu übernehmen. Das ist eine große Gefahr, weil das ist ja bei jeder KI, das aufgrund von falschen oder korrupten Trainingsdaten falsche Entscheidungen getroffen werden. Ich denke, eine sehr große Gefahr wäre, umso mehr KI genutzt wird, umso höher ist das Angriffspotenzial, dass da irgendjemand Schmu treiben möchte. Das zu kontrollieren und zu verifizieren, ob die Trainingsdaten wirklich die sind, die wir haben wollen, ist ein großes Problem. 00:10:38 Sprecher 1 Was sind aus deiner Sicht die wichtigsten Faktoren dafür, dass Nutzer also Disponenten aber auch die Anrufer einem KI-basierten Übersetzungssystem vertrauen können? 00:11:05 Sprecher 2 Das muss Sinn machen, was übersetzt wird. Wenn der erste Satz schon falsch übersetzt wird und kein anderer Satz bei rauskommt, der einfach Sinn macht, dann wird dieses komplette Gespräch nicht mehr funktionieren, weil dann ist das Vertrauen kaputt. Es muss halt vom ersten Satz Sinnvolles bei rauskommen und ich denke mal, dass eine KI-Übersetzung ein Stück Vertrauen schafft, weil beide Seiten wissen, sie verstehen sich gegenseitig, sie wissen, was sie voneinander wollen, und es nimmt natürlich auch den Stress aus der ganzen Situation raus und erleichtert in dem Sinne die Gesprächsführung. Aber das A und O ist halt, dass das, was da übersetzt wird, Sinn macht. 00:11:43 Sprecher 1 Gibt es noch weitere Eigenschaften oder auch Funktionen, die so ein System mitbringen sollte, um Vertrauen aufzubauen? 00:11:59 Sprecher 2 Ich meine, es soll sich nicht unbedingt anhören wie ein Computer, also diese typische Computerstimme. Ich denke mal, das ist wieder eine Barriere, aber natürlich soll das irgendwo eine natürliche Stimme sein, die vielleicht auch ein Stück weit auf die Emotionen eingehen kann. Wenn jemanden laut ist und schreit und sich nicht beruhigen lässt, dass wir die Stimme so beeinflussen können der KI, dass die quasi beruhigend auf den Gesprächspartner einredet. 00:12:28 Sprecher 1 Wem vertraust du im Notfall mehr: dem menschlichen Übersetzer oder einer KI, und warum? 00:12:40 Sprecher 2 Schwierige Frage, wenn ich jetzt einen Anruf habe, den ich überhaupt nicht verstehe, also wenn er eine Sprache spricht, der ich nicht mächtig bin, würde ich der KI ein stückweit vertrauen, dass ich auf jeden Fall mehr Informationen habe, wie wenn ich mit ihm kommunizieren würde. Wenn es jetzt aber eine Sprache ist, der ich mächtig bin, dann würde ich wahrscheinlich dem Menschen mehr vertrauen. Es kommt immer drauf an, mit was man da zu tun hat am Ende vom Tag. 00:13:09 Sprecher 1 Welche Hindernisse siehst du bei der Einführung von Technologien wie einem Echtzeitübersetzer in Notrufdienste? 00:13:24 Sprecher 2 Also das große Problem sind die Kosten. Also sowohl die Einführung als auch die laufenden Kosten, weil die KI umso mächtiger sie wird, umso mehr Ressourcen wird sie wahrscheinlich benötigen. Dann gerade das Thema Datenschutz: Zum Beispiel bei uns in der Stadt ist immer die städtische IT über allem, und die hat natürlich einen Bedenkenträger, die sehen in Allem Gefahren und Bedenken. Dann ist halt die Frage, inwieweit wird es in das System integriert, inwieweit kann die KI das Leitsystem beeinflussen. Das sind alles so Punkte: wie geht so ein KI-Übersetzer damit um, wenn ganz viele Anrufe kommen? Wie geht er damit um, wenn Störgeräusche im Hintergrund sind? Wenn mehrere Menschen sprechen, wie ist dann die Qualität? 00:14:12 Sprecher 1 Welche Bedeutung misst du dem Datenschutz bei? 00:14:33 Sprecher 2 Ich glaube, dem Disponenten ist das egal, wo die Daten hingehen. Was immer interessanter ist: Was wird gespeichert? Also im Sinne der Disponent trifft eine Entscheidung und es ist am Ende nachvollziehbar, was übersetzt wurde, also was wurde gesprochen vom Anrufer, was wurde vom KI-Tool übersetzt, falls es Probleme gibt. Als Beispiel die KI übersetzt, er hat nur Bauchschmerzen und am Ende hat er einen Herzinfarkt und stirbt, ein Rechtsanwalt kommt und wer hat da die Verantwortung? Das sind so Fragen, die geklärt sein müssen, damit der Disponent akzeptiert, was die KI ihm vorschlägt. 00:15:15 Sprecher 1 Das heißt die Bedenken beim Datenschutz sind, wo gehen die Daten hin und was wird gespeichert, und das auch in Bezug auf die persönlichen Daten? 00:15:24 Sprecher 2 Genau. 00:15:33 Sprecher 1 Was müsste passieren, damit man sich wie in deinem Fall in Bezug auf den Datenschutz sicherer fühlen würde? 00:15:43 Sprecher 2 Diese Zertifizierung - es gibt eine vom BSI zum DSGVO und was es alles gibt. Ich denke mal, das ist ein Muss und das ist mittlerweile Standard. Also jemand, der seriöse Software vertreibt, der bringt diese Zertifikate mit, ohne dass man ihn drauf ansprechen muss. Nichtsdestotrotz einfache, anschauliche Schaubilder, die man einfach hinlegen kann und sieht, das ist der Server, der steht hier in der Lage, der kommuniziert mit Server XY bei WTG. Eine einfache Darstellung damit die Kollegen einfach das verstehen und nachvollziehen können, was da passiert. 00:16:23 Sprecher 1 Wie könnte man die Herausforderung gezielt angehen, um die zu überkommen? 00:16:39 Sprecher 2 Also was wir gemacht haben, war dieser Herstellerworkshop, wo wir einfach mal alle an einen Tisch geholt haben. Wir haben den Personalrat dabeigehabt, da hatten wir jetzt alle, die da Bedenken haben und haben gesagt, wir laden unsere Hersteller ein, die sollen mal ihre Produkte vorstellen, ohne dass man ein Kaufinteresse oder sowas hat, sondern einfach mal zeigen, was ist technisch möglich, wie funktioniert es, was für Unterschiede gibt es, um da schon mal so ein bisschen Transparenz zu schaffen und so eine Sensibilisierung zu machen. Am Ende ist es, glaube ich, das persönliche Gespräch, wenn wir sagen, wir entscheiden uns für den TONI als fiktives Beispiel, dass einfach noch mal jemand vor Ort kommt und sagt, das ist TONI, der funktioniert so, der kann das und das, der macht das mit den Daten. Einen Ansprechpartner, dass man einfach immer jemanden hat und nicht in einer Hotline landet, und da geht ein Roboter ran, sondern ich habe einen Ansprechpartner, dem ich eine E-Mail schreiben kann und anrufen kann und Rückfragen stellen kann. Ich glaube, damit kann man ganz viele Dinge erschlagen. 00:17:55 Sprecher 1 Also eine offene Kommunikation ist dann sehr wichtig, um die Transparenz zu schaffen? 00:17:58 Sprecher 2 Ja. 00:18:09 Sprecher 1 Du hast TONI einmal vorgestellt bekommen: Wie gut kannst du nachvollziehen, wie der Übersetzer funktioniert und wäre noch mehr Transparenz darüber hilfreich? 00:18:25 Sprecher 2 Ich habe TONI als Produkt vorgestellt bekommen, wir waren jetzt nicht auf der technischen Ebene unterwegs. Wie TONI an sich funktioniert, ist, glaube ich, verständlich und das ist auch relativ einfach nachvollziehbar. Aber ich behaupte, wenn wir jetzt in die Diskussion gehen, gerade mit der städtischen IT, da bräuchten wir auf technischer Ebene viel mehr Informationen. Da verstehe ich auch, wenn WTG sagt: „Wir können euch nicht alles geben, weil natürlich ist unser Produkt und bli bla blub“. Aber umso mehr Informationen wir von euch bekommen, ich meine man kann ja auch verschiedene Verschwiegenheitserklärungen unterschreiben, was weiß ich, man kann ja da diverse Dinge machen, umso leichter können wir argumentieren und sagen, das funktioniert, so ist keine Gefahr, wir halten uns an die und die Richtlinien, das ist alles konform mit dem, was wir vorhaben, Datenspeicherung passt. Das können wir halt nur, wenn wir auch dementsprechend technische Dokumentationen nachlesen können. Also ich denke mal die IT wird sich nicht mit einer PowerPoint Präsentation zufriedengeben, wo draufsteht, dass TONI toll ist, das wird nicht funktionieren. 00:19:29 Sprecher 1 Stell dir vor, ihr würdet euch für TONI entscheiden, wie würdest du dir da das Schulungskonzept vorstellen? Wären Schulungen für die Disponenten sinnvoll? Hast du eine Idee, wie ihr das strukturieren würdet oder auch bei anderen neuen Technologien? 00:20:23 Sprecher 2 Man muss so ein Stück weit Multiplikatoren schulen, die tief in dem System drin sind, die auch mal, wenn was nicht funktioniert, wissen wo sie hingucken müssen, wo sie hin greifen müssen, und Hilfestellung geben können. Aber der einfache normale Disponent oder Calltaker, ich glaube, der braucht bei TONI gar keine große Schulung, weil die Konferenz eröffnen und dann telefoniert TONI mit, das ist intuitiv. Ich denke, das ist eher so eine Unterweisung. So eine Stunde: das ist TONI, so und so funktioniert TONI, probiert einfach aus. Ich glaube, da braucht man gar keine große Schulung. Ich denke mir, da geht es eher drum die Admins beziehungsweise dann so Key User zu schulen, die dann ihr Wissen weiter transferieren können. So könnte ich es mir jetzt vorstellen. 00:21:07 Sprecher 1 Siehst du die Schulung der Multiplikatoren auch in einer Gruppe? Also das die zum Beispiel von der WTG durchgeführt wird. 00:21:23 Sprecher 2 Ich denke mal, es macht schon Sinn das in einer Gruppe zu machen, also gerade unter dem Hinblick, dass wir eine integrierte Leitstelle sind. Also wir brauchen tatsächlich Personal vom Rettungsdienst, Fachpersonal von der Feuerwehr, da macht es schon Sinn es in der Gruppe zu schulen. Ich denke mal, das macht auch Sinn das vor Ort zu schulen und nicht in einem Online-Format, um einfach auch wieder diese Vertrauensbasis zu haben: Ich habe hier einen Ansprechpartner, der sieht so und so aus, der ist eigentlich ganz cool drauf, um ein familiäres Verhältnis herzustellen, sodass man keine Angst haben muss zu fragen, wenn etwas unklar ist oder so. 00:21:57 Sprecher 1 Welche technischen Anforderungen müsste ein Echtzeitübersetzer erfüllen, um bei euch zuverlässig eingesetzt werden zu können? 00:22:19 Sprecher 2 Es sollte plattformneutral sein, egal ob ich es auf Linux oder Windows laufen lassen möchte. Ich sollte es an mehreren Standorten laufen lassen können parallel. Also gerade mit dem Thema Fallback-Systeme, dass ich einen Hot Standby quasi habe und sage, wenn System A nicht mehr funktioniert, das automatisch das System B übernimmt. Das verschiedene Ausfallszenarien einfach abgedeckt sind. Das muss möglich sein. 00:22:51 Sprecher 1 Siehst du aus der technischen Sicht noch weitere Herausforderungen bei der Integration von einem System wie TONI in die bestehenden Strukturen der Leitstelle? 00:23:03 Sprecher 2 Also so wie TONI vorgestellt worden ist, sehe ich da Stand jetzt keine Hürden, wo ich sage, geht gar nicht. Klar, ist die Frage, wie entwickelt sich die KI weiter, wie leistungshungrig wird die KI, wie viele Ressourcen braucht die an Hardware, weil natürlich sonst auch die Frage ist, lassen wir es bei uns laufen also On-Premise, legen wir es in die Cloud. Es hat alles Vor- und Nachteile für uns. Das sind so Themen, die man klären muss. Aber da ist TONI gut aufgestellt und es ist einfach beides möglich. Von daher, also ich sehe bei TONI kein Problem Stand jetzt. 00:23:42 Sprecher 1 Das waren auch schon meine Fragen. Es sei denn, du hast noch etwas hast, was du hervorheben willst. 00:23:55 Sprecher 2 Viel Glück und Erfolg bei der Masterarbeit.