Bisher gibt es keine baulichen und technischen Standards die Nutzer*innenbedürfnisse beinhalten, die die Umsetzung von modernen Justizanstalten in Österreich durch effiziente, sichere bauliche und technische (digitale) Maßnahmen unterstützen. Das vorliegende Projekt** hat sich zum Ziel gesetzt bauliche und technische Maßnahmen zu entwickeln, die auf dem Status Quo von 23 Justizanstalten aufbauen, mit allen relevanten Stakeholdern abgestimmt sind und die Bedürfnisse, Problemlagen und Use Cases aller Nutzer*innengruppen (Anstaltsleitung, Beschäftigte und Insass*innen) einbeziehen. Diese nachhaltigen baulichen und technischen (digitalen) Standards fließen in einen praxisorientierten Planungskatalog für Auftraggeber*innen und Umsetzer*innen ein. Dieser ermöglicht eine effiziente Durchführung von Ausschreibungen und Bauvorhaben zur Modernisierung von Justizanstalten. Das Projekt treibt die digitale Transformation für den Strafvollzug im Sinne von „Rechtsstaatlichkeit durch Technikgestaltung” wesentlich voran. Dadurch wird die konsequente Fortführung innovativer Technikgestaltung der Fa. App informatics ermöglicht. In wirtschaftlicher Hinsicht stärkt es die Sichtbarkeit der technischen Expertise für künftiges Consulting im Zusammenhang mit Technologieanwendungen im öffentlichen Sektor. Durch das Projekt werden entsprechendes F&E Know How und vertriebsrelevante Kooperationen mit wichtigen Marktteilnehmer*innen aufgebaut.

**Projekt gefördert durch die FFG, FO999895190

Pflegearbeit in der Langzeitpflege ist eine humanzentrierte Tätigkeit, die Empathie, körperliche Nähe und vertrauensvolle Beziehungen zwischen verschiedenen Pflegenden und Pflegebedürftigen erfordert. In den letzten Jahren wurde in Pflegesystemen vermehrt Künstliche Intelligenz (KI) eingesetzt, um professionelle Pflegekräfte bei ihren täglichen Aktivitäten zu unterstützen und Pflegebedürftigen ein zusätzliches Maß an Sicherheit zu bieten. Trotz der zunehmenden Verbreitung von KI in der Pflege beschäftigen sich bislang nur wenige Studien mit dem Bias von algorithmischen Systemen in diesem Bereich. Durch die Verknüpfung mehrerer Big Data Sets können durch KI unfaire und intransparente Entscheidungsprozesse in Gang gesetzt werden, die in der Praxis zu diskriminierenden Pflegepraktiken führen

Ziel des Projektes* ist es, den potentiellen Bias von algorithmisch gesteuerten Pflegetechnologien in ihren Auswirkungen auf die Langzeitpflege zu untersuchen. Erkenntnisse aus qualitativen Fallstudien in der Langzeitpflege liefern die Basis für ein differenzierten Verständnis der Auswirkungen und Bedürfnisse der Pflege in Bezug auf KI-Systeme. Auf Basis dieser Erkenntnisse werden im Projekt der Gebrauchswert von XAI-Methoden (explainable AI) (Vertrauenswürdigkeit, Fairness, Transparenz) und verschiedene Transparenzstufen in ihrer Anwendbarkeit auf Pflegesysteme untersucht.

*Forschungsprojekt AlgoCare (WWTF Projekt) unter der Leitung von Dr. Kampel an der TU Wien

Zur Gewährleistung einer vertrauenswürdigen KI führen wir Audits durch und beurteilen anhand professioneller Checklisten und Richtlinien KI-Anwendungen und Algorithmen. In der Analyse unterscheiden wir dabei zwischen Pre-Processing, In-Processing und Post-Processing.

Pre-Processing-Methoden untersuchen die Trainingsdaten hinsichtlich Bias. In-processing beschreibt Techniken, die die Netzwerkarchitektur analysieren. Das Ziel des Post-Processings ist es, das Ergebnis eines lernenden Algorithmus zu verstehen, soferne das trainierte Modell eine Blackbox ist und der Trainings- oder Lernalgorithmus nicht verändert werden kann. Einen besonderen Stellenwert hat dabei die Transparenz des KI Systems.

Das Ziel des „Trustworthy AI“ Projektes* ist es Tools, Guidelines und Kriterien zur Umsetzung von harmonisierten Vorschriften für künstliche Intelligenz und zur Bewertung von gegebenen KI Lösungen zu entwickeln. Es wird ein Auditierungs- und Zertifizierungsprozess für Trustworthy AI geschaffen, um zu gewährleisten, dass verwendete KI Systeme sicher sind und die bestehenden Grundrechte wahren. Ähnlich den Prozessen eines DSGVO Audits zur Einhaltung der Regeln des Datenschutzes, werden bei einem Trustworthy AI Audit Algorithmen, Daten, Entwurfsprozesse und die Nutzung eines KI System aus technischen und sozialwissenschaftlichen Gesichtspunkten erfasst und bewertet.

Das Ergebnis wird in einem Zertifikat zur Zuverlässigkeit, Transparenz und Sicherheit der KI Anwendung und der KI Algorithmen festgehalten.

Erfahren Sie mehr auf unserer Website: CertifiedAi.eu

* Projekt gefördert durch die Wirtschaftsagentur Wien. Ein Fonds der Stadt Wien. Projektpartner: Vienna Centre for Societal Security, VICESSE

Dr. Kampel, ZT ist Gründer und geschäftsführender Gesellschafter der app informatics zt GmbH. Weiters ist er Senior Scientist am Institut für Visual Computing & Human Centered Technology, der Technischen Universität Wien.

Er studierte Datentechnik und Informatik, promovierte mit Auszeichnung und habilitierte im Fach praktische Informatik an der Fakultät für Informatik der TU-Wien. Als Informatiker an der Schnittstelle zwischen Forschung und Entwicklung spezialisiert sich Dr. Kampel auf interdisziplinäre Fragestellungen der praktischen Informatik, insbesondere Visual Computing und Künstliche Intelligenz, sowie Ethik und digitale Transformation.

Er ist internationaler Gutachter und Prüfer von wissenschaftlichen und kommerziellen Projekten, Ingenieurkonsultent für Informatik, sowie allgemein beeideter und gerichtlich zertifizierter Sachverständiger für IKT.

Prof. Sablatnig ist Gründer und Gesellschafter der app informatics zt Gmbh. Weiters ist er Vorstand des Instituts für Visual Computing & Human Centered Technology der Technischen Universität Wien und dort im Bereich Computer Vision & AI in Forschung und Lehre tätig.

Er studierte Informatik mit Ausrichtung Visual Computing an der Technischen Universität Wien, wo er seit 2003 als a.o.Univ.Prof. für Computer Vision beschäftigt ist. Von 2005 bis 2017 war er Leiter des Instituts für Rechnergestützte Automation. Seit 2010 leitet er das Computer Vision Lab, das Teil des 2018 gegründeten Instituts für Visual Computing & Human-Centered Technology ist, das er seit 2019 leitet. Mit der Leitung und Koordination von mehr als 30 industrierelevanten und akademischen Forschungsprojekten setzt er Grundlagenforschung anwendungsbezogen um. Er ist internationaler Gutachter und Prüfer von wissenschaftlichen und kommerziellen Projekten, aktiv in der internationalen Forschungslandschaft tätig, im Vorstand der Österreichischen Arbeitsgemeinschaft für Mustererkennung, vertritt Österreich im Vorstand der internationalen Arbeitsgemeinschaft für Mustererkennung, sowie allgemein beeideter und gerichtlich zertifizierter Sachverständiger für Computer Vision.