Forschung

Die Gefahr von künstlicher Intelligenz lässt sich gezielt mit einem Training ohne missbräuchliche Daten bannen. Zu diesem Ergebnis kommen Wissenschaftler der University of Oxford, von EleutherAI und des UK AI Security Institute in ihrer neuen Studie. Statt nachträglich Filter einzubauen, trainieren sie ihre KI von Anfang an mit Daten, die in der Folge nicht für andere Zwecke missbraucht werden können. Ihre Forschungsergebnisse sind kürzlich in Open-Access-Archiv Arxiv erschienen.

Der Optimismus, dass künstliche Intelligenz menschliche Jobs leichter machen wird, ist in der entwickelten Welt am geringsten. Davon sind laut einer kürzlich veröffentlichten Studie unter Leitung von Peter John Loewen von der Cornell University vor allem die USA, Kanada, Grossbritannien, Frankreich und Australien betroffen. Laut dem Experten zeigt sich ein Muster: In Entwicklungsländern ist die Haltung zu Folgen dieser Technologie in Hinblick auf die Zukunft und das Leben positiver. Die Ergebnisse basieren auf einer Umfrage mit rund 24.000 Personen aus 21 Ländern.

Computer-Vision-Systeme auf der Basis von Künstlicher Intelligenz (KI) lassen sich so manipulieren, dass sie genau das sehen, was der Hacker will, oder umgekehrt, so ein Team um Tianfu Wu von der North Carolina State University. Sie können absichtlich dazu gebracht werden, Dinge, die Menschen mit Leichtigkeit erkennen, zu übersehen. So könnte beispielsweise jemand die Fähigkeit einer KI manipulieren, Verkehrszeichen, Fussgänger oder andere Autos zu erkennen, was zu verheerenden Folgen für autonome Fahrzeuge führen würde.

Belastende Nachrichten und traumatische Geschichten - wie Autounfälle, Naturkatastrophen, Gewalt, Krieg und Kampf - stressen und verunsichern nicht nur Menschen, sondern auch KI-Sprachmodelle wie ChatGPT. Zu dem Schluss kommen Forscher der Universität Zürich (UZH).