Neue EU-Gesetze verpflichten beim Einsatz von Künstlicher Intelligenz (KI) ab sofort zu ethischen Standards und Risikomanagement. Das Start-up Validaitor, ein Spin-off des Karlsruher Instituts für Technologie (KIT), unterstützt Organisationen und Unternehmen bei der Umsetzung der Regeln. Das KIT hat jetzt eine Beteiligung beschlossen.
„Künstliche Intelligenz entwickelt sich weltweit in einem dynamischen Umfeld mit großen Chancen, aber auch Risiken“, sagt Professor Thomas Hirth, Vizepräsident Transfer und Internationales des KIT. „Um KI verantwortungsvoll und sicher in die Anwendung zu bringen, braucht es innovative Ansätze zur Qualitätssicherung und Compliance, wie wir sie am KIT erforschen und wie sie nun von unserer Ausgründung Validaitor in die Anwendung gebracht werden. Wir sind stolz darauf, diesen Transfer weiter zu unterstützen.“
Die Beteiligung des KIT ist Teil einer erfolgreichen Finanzierungsrunde. Weitere Investoren sind Bitdefender, Voyager Ventures, EnBW New Ventures und das Start-up BW Seed Fonds der MBG Mittelständische Beteiligungsgesellschaft Baden-Württemberg. „Diese Investitionen ermöglichen es, unsere Plattform weiterzuentwickeln und KI vertrauenswürdiger zu machen“, sagt Yunus Bulut, Gründer und CEO von Validaitor. „Wir helfen unseren Kunden bis zu 80 Prozent der Kosten für die KI-Zertifizierung im Vergleich zu den aktuellen Standards einzusparen.“ Das neu formierte Investorenkonsortium bündelt komplementäre Expertisen aus strategisch relevanten Branchen: Bitdefender bringt fundierte Cybersecurity-Kompetenz ein, während EnBW New Ventures seine Expertise im Energiesektor und bei kritischen Infrastrukturen beisteuert. Das KIT ergänzt das Konsortium mit seiner Forschungskompetenz und dem Startup-Inkubator KIT-Gründerschmiede.
Zertifizierung von KI-Produkten
Validaitor bietet eine einzigartige Plattform, die Lösungen für KI-Governance, Risikomanagement und automatisiertes Testen umfasst. Im Gegensatz zu anderen Anbietern verbindet das Angebot von Validaitor dabei das Testen mit Werkzeugen zur Umsetzung und vereinfacht so einen regelkonformen Betrieb für Organisationen, die sich mit komplexen rechtlichen Rahmenbedingungen wie dem EU-KI-Gesetz oder EU-Normen auseinandersetzen müssen. Validaitor verifiziert die Umsetzung dieser Anforderungen und erleichtert die strategische Kontrolle über den Einsatz von KI. Dazu gehören die Durchsetzung ethischer Standards und Transparenz sowie Risikomanagement bei KI-Anwendungen. Auch das so genannte Red-Teaming ist Teil des Angebots. Dabei werden – ähnlich wie bei Penetrationstests im Sicherheitsbereich – Angriffe simuliert, um Systemschwachstellen zu identifizieren. (mhe)
Paczynski und Sebastian Krauß. (Foto: Robert Fuge/KIT)
Als „Die Forschungsuniversität in der Helmholtz-Gemeinschaft“ schafft und vermittelt das KIT Wissen für Gesellschaft und Umwelt. Ziel ist es, zu den globalen Herausforderungen maßgebliche Beiträge in den Feldern Energie, Mobilität und Information zu leisten. Dazu arbeiten rund 10 000 Mitarbeiterinnen und Mitarbeiter auf einer breiten disziplinären Basis in Natur-, Ingenieur-, Wirtschafts- sowie Geistes- und Sozialwissenschaften zusammen. Seine 22 800 Studierenden bereitet das KIT durch ein forschungsorientiertes universitäres Studium auf verantwortungsvolle Aufgaben in Gesellschaft, Wirtschaft und Wissenschaft vor. Die Innovationstätigkeit am KIT schlägt die Brücke zwischen Erkenntnis und Anwendung zum gesellschaftlichen Nutzen, wirtschaftlichen Wohlstand und Erhalt unserer natürlichen Lebensgrundlagen. Das KIT ist eine der deutschen Exzellenzuniversitäten.