Die Entwicklung von KI hat in den letzten Jahren besondere Sprünge absolviert, sodass es schwer für die Gesellschaft ist, Schritt mit der Technologie zu halten. Auch wenn die jüngsten Durchbrüche vor allem im Bereich der Language-Model-AIs zu verzeichnen sind, gibt es selbstverständlich Fortschritte in der Kombination mit Robotik und Drohnentechnologie. In der Drohnentechnologie werden Systeme mit autonomen Waffen diskutiert, erforscht, teilweise bereits eingesetzt. Gefahren zeichnen sich hierbei vor allem mit Blick auf einen neuen internationalen Rüstungswettlauf ab.

Autonome lethale Waffensysteme stellen gewissermaßen die Perfektion der Präzisierung und Anonymisierung der Kriegskunst dar. Wissenschaftler:innen weltweit warnen zurecht vor der Konstruktion und dem Einsatz derartiger Waffensysteme. Dies ist nicht nur auf einen möglichen Rüstungswettlauf zu beziehen, sondern ebenfalls auf eine Reihe von Folgegefahren, wie z.B. der Anfälligkeit gegenüber Hacking-Angriffen und damit verbundene Folgen für Soldat:innen im Einsatz, aber auch die Zivilgesellschaft. Der vermehrte Einsatz von Maschinen kann zudem zu mehr Krieg führen, da Krieg billiger wird, Personalkosten entfallen, der Anteil am Verlust eigener menschlicher Leben sinkt.

Gefahren stecken auch in den Algorithmen selbst. Diese sind fast nie perfekt und können Fehler machen. Sollten statt militärischen Zielen zivile getötet werden, so stellt sich bereits heute die Frage nach der Verantwortung. Diese wird beim Einsatz von Maschinen verschärft. Grundsätzlich gilt: Entscheidungen über Leben und Tod sollten nicht an Algorithmen gebunden sein.