KI-Sicherheit

KI-Sicherheit (englisch AI safety) ist ein interdisziplinärer Bereich, der sich mit der Verhinderung von Unfällen, Missbrauch oder anderen schädlichen Folgen von Systemen der künstlichen Intelligenz (KI) befasst. Er umfasst Maschinen- bzw. Roboterethik und AI-Alignment (deutsch: KI-Ausrichtung), die sicherstellen sollen, dass KI-Systeme moralisch und konstruktiv agieren, sowie die Überwachung von KI-Systemen auf Risiken und die Verbesserung ihrer Zuverlässigkeit. Der Bereich befasst sich insbesondere mit existenziellen Risiken, die von fortgeschrittenen KI-Modellen ausgehen.

Neben der technischen Forschung umfasst die KI-Sicherheit auch die Entwicklung von Normen und politischen Richtlinien, die Sicherheit fördern. Mit den raschen Fortschritten im Bereich der generativen KI und öffentlichkeitswirksamen Sicherheitsbedenken von Forschern und CEOs hat dieses Thema im Jahr 2023 stark an Bedeutung gewonnen. Während des KI-Sicherheitsgipfels 2023 gründeten sowohl die Vereinigten Staaten als auch das Vereinigte Königreich ihr eigenes KI-Sicherheitsinstitut. Früher im selben Jahr hatte die Bundesregierung bereits das Institut für KI-Sicherheit gegründet, das dem DLR untergeordnet ist. Forscher zeigten sich jedoch besorgt darüber, dass die KI-Sicherheitsmaßnahmen nicht mit der rasanten Entwicklung der KI-Fähigkeiten Schritt halten.

1. ↑ Perrigo, Billy (2023-02. November). „U.K.'s AI Safety Summit Ends With Limited, but Meaningful, Progress“. Time. Abgerufen am 2. Juni 2024.