englischThe author argues that the ongoing development of AI will result in moral and legal rights for intelligent robots. Against this background and due to foreseeable weaknesses of prospective law enforcement, the author demands a legal strategy concerning strong AI.
Gaede shows that AI research, while concentrating on weak AI, fosters the development of strong AI. He claims that specific forms of strong AI would be entitled to moral rights even by currently prevailing concepts of moral and legal reasoning. Although Gaede affirms the legitimacy of law enforcement by means of punishment and police law, he doubts our capacity to enforce law given our indifferent present-day AI strategies. Gaede argues that possible profound consequences of strong AI are reason enough to monitor and regulate research on strong AI beyond questions of AI application.
Die Abhandlung zeigt, dass die KI-Entwicklung darauf hinausläuft, Robotern Rechte zuzugestehen. Sie fordert vor diesem Hintergrund und angesichts absehbarer Schwächen der zukünftigen Rechtsdurchsetzung, bereits heute eine rechtliche Strategie zur Bewältigung der sogenannten starken KI ins Werk zu setzen.
Gaede blickt zunächst auf den Stand der Forschung, die sich zwar auf die schwache KI konzentriert, ebenso aber die starke KI befördert. Er argumentiert, dass bestimmte Formen der starken KI schon nach den herrschenden Normbegründungen moralische Ansprüche erheben könnten. Die Durchsetzung von Strafe und Gefahrenabwehr gegenüber dieser KI hält er zwar für legitim. Er bezweifelt jedoch, dass das Recht mit den aktuellen KI-Strategien durchsetzbar bleiben wird. Gaede macht geltend, dass wir angesichts der tiefgreifenden Konsequenzen einer starken KI schon heute beginnen müssen, die Forschung an starker KI jenseits konkreter Anwendungen zu beobachten und demokratisch zu regulieren.
