Az aggodalom fő oka, hogy
a fejlesztők gyors ütemben haladnak az egészen kifinomult MI-rendszerek felé,
ami történelmi és technológiai fordulópontot jelentene. Bár a szakértők között van vita arról, hogy mennyi időre van szükség az ennyire fejlett MI eléréséhez, abban egyetértenek, hogy elkerülhetetlenül elérünk ide. Egyes szakértők ezért aggodalmukat fejezték ki amiatt, hogy az effajta MI megépítésén fáradozó emberek nincsenek felkészülve a fejlődésből adódó potenciális veszélyekre.
A kritikusok szerint az MI jelenlegi fejlesztései, amelyek magukban foglalják az emberi értékekkel való összehangolást, még mindig járatlan terep. Az összehangolás kutatásával foglalkozó szakemberek száma elenyészően alacsony, és a fejlesztési erőforrások többsége az MI képességeinek növelésére irányul, nem pedig annak biztonságossá tételére.
Az aggodalmakat megfogalmazó szakértők szerint erős állami kontrollra van szükség a mesterséges intelligencia-kutatások terén,