Erschreckend: KI entwickelt in sechs Stunden 40.000 potentielle Chemiewaffen

Künstliche Intelligenzen werden immer wichtiger. Vom Onlineshopping bis hin zu der Erforschung von SARS-CoV-2: Überall finden sich intelligente Computeralgorithmen wieder. So auch bei der Entwicklung von Medikamenten. Dass KI auch ihre Schattenseiten haben kann, demonstrierten ForscherInnen, als sie einer künstlichen Intelligenz aus der Medikamentenentwicklung die Aufgabe gaben, Nervengifte zu entwickeln. Das Ergebnis bezeichnete das Forschungsteam Weckruf für die ganze Branche.

KI entwickelt eigenständig Nervengifte

Das eigentliche Anwendungsgebiet der betreffenden KI ist der Ausschluss gefährlicher Nebenwirkungen bei der Medikamentenentwicklung. Mit der neuen Aufgabenstellung gelang es der künstlichen Intelligenz allerdings innerhalb weniger Stunden, mehrere Zehntausend potenziell tödliche chemische Verbindungen zu identifizieren. Es sei zwar immer noch notwendig, über Expertise in den Bereichen Toxikologie und Chemie zu verfügen, aber die Schwelle für die Entwicklung chemischer Kampfstoffe sinke mit entsprechenden Programmierkenntnissen und Expertise im Feld des maschinellen Lernens ganz erheblich, so die ForscherInnen. Die KI habe nicht nur eines der gefährlichen Nervengifte komplett selbstständig entwickelt, sondern habe sogar welche identifiziert, die potenziell noch giftiger sein könnten. Im Datensatz fanden die Forscher mehrere bekannte Nervengifte, die der KI vorher komplett unbekannt waren.

Nervengift VX als Vorbild

Die Wissenschaftlerinnen rund um Fabio Urbina, der beim US-Unternehmen Collaborations Pharmaceuticals beschäftigt ist, erläuterten, dass sie bisher nie auf die Idee kamen, die Zielsetzung ihrer Arbeit umzukehren. Normalerweise ist das Team damit beschäftigt, mit Hilfe maschinellem Lernens Moleküle auf eine mögliche Giftigkeit hin zu überprüfen. Aufgrund einer Einladung vom Labor Spiez aus der Schweiz hin, auf einer Konferenz einen Vortrag über Missbrauchsmöglichkeiten derartiger Technologien zu sprechen, habe man dann begonnen, sich mit der Frage zu beschäftigen, was geschieht, wenn man die KI beauftragt, Moleküle mit großer Giftigkeit zu finden.

Im Rahmen der Vorbereitungen auf den Vortrag habe man dann den Molekülgenerator MegaSyn umprogrammiert. Ziel war dann nicht mehr die Suche nach ungiftigen Molekülen und Stoffen, sondern eben genau das Gegenteil. Der Algorithmus sollte sich dabei auf solche Stoffe beschränken, die dem gefährlichen Nervengift VX ähneln. Sechs Stunden habe das Programm dann benötigt, um insgesamt etwa 40.000 Moleküle zu berechnen, die den Kriterien entsprachen. Darunter fand sich neben VX auch andere bereits bekannte chemische Kampfstoffe sowie eine Reihe komplett unbekannter Moleküle. Das Team schrieb daraufhin, dass ein nichtmenschlicher Generator chemischer Waffen voll realisierbar sei.

Besser Vorsichtsmaßnahmen können vor Missbrauch schützen

Die ForscherInnen bezeichneten ihre Ergebnisseihre Ergebnisse als einen Weckruf für alle, die künstliche Intelligenzen im Bereich der Medikamentenentwicklung einsetzen. Man könne sich nicht davor verschließen, dass die automatisierte Entwicklung chemischer Kampfstoffe Realität sei. Gefährlich sei zudem, dass niemand wisse, wie viele Unternehmen die Möglichkeit und das Know-How hätten, eine KI dahingehend einzusetzen. Mehr denn je müsse man sich mit dem Missbrauchspotential solcher Technologien auseinandersetzen und Schutzmaßnahmen erarbeiten, die diesen Missbrauch verhindern können. Die Datensätze etwa, die die KI für die Entwicklung der Nervengifte einsetzte, seien frei verfügbar. Man müsse außerdem bei der Ausbildung mehr Wert darauf legen, über ethische Folgen der Arbeit aufzuklären.