AI ska inte tillåtas kontrollera eller fatta beslut om kärnkraft.
Ett sådant ansvar måste stanna hos människor.
Detta bekräftas av världsledarna Joe Biden och Xi Jinping under ett möte, säger rapporter Reuters.
USA:s president Joe Biden och Kinas ledare Xi Jinping träffades i Perus huvudstad Lima på lördagen. Det skedde i samband med ett möte inom Asien-Stillahavsområdets ekonomiska samarbetsorganisation, Apec.
Under världsledarmötet hann de diskutera flera saker, bland annat Nordkorea och kriget i Ukraina.
De pratade också om ett relativt nytt ämne: AI och kärnkraft.
“Försiktig och ansvarsfull”
Enligt nyhetsbyrån Reuters kom Biden och Xi överens om att det måste vara människor, inte AI, som fortsätter att ha kontroll och fatta beslut om kärnvapen.
Ett uttalande från Vita huset lyder:
“De två ledarna bekräftade på nytt behovet av att behålla kontrollen över beslut att använda kärnvapen.”
Det fortsätter:
“De två ledarna betonade också behovet av att noggrant överväga potentiella risker och att utveckla AI-teknik inom det militära området på ett noggrant och ansvarsfullt sätt.”
Enligt Reuters var diskussionen den första i sitt slag specifikt om AI och kärnkraft. Nyhetsbyrån har kontaktat den kinesiska regeringen i frågan, men har inte fått något svar.