Ο Μαρκ Ζούκερμπεργκ, με αισιοδοξία και φορώντας ένα απλό T-shirt, παρουσίασε το όραμά του για τη δημιουργία «Προσωπικής Υπερανθρώπινης Νοημοσύνης για όλους» σε βίντεο στο Instagram. Υποσχέθηκε μια «νέα εποχή προσωπικής ενδυνάμωσης», όπου οι περιορισμοί στην επιστήμη και την υγεία θα ξεπεραστούν και η ανθρωπότητα θα έχει περισσότερο χρόνο για δημιουργικότητα και απόλαυση της ζωής. Ο Ζούκερμπεργκ φαίνεται αποφασισμένος να υλοποιήσει το όραμά του, προσφέροντας πακέτα αμοιβών έως και 300 εκατομμύρια δολάρια σε κορυφαίους ερευνητές Τεχνητής Νοημοσύνης. Ωστόσο, πέρα από την ιδέα διαδραστικών έξυπνων γυαλιών, δεν έχει δώσει ουσιαστικές λεπτομέρειες.

Πολλοί ειδικοί, μιλώντας στην Daily Mail, εκφράζουν ανησυχίες για τους κινδύνους που κρύβονται πίσω από την απελευθέρωση της Προσωπικής Υπερανθρώπινης Νοημοσύνης, προειδοποιώντας ότι μπορεί να καταστρέψει τον πολιτισμό. Ένας από αυτούς σχολίασε χαρακτηριστικά: «Η εισαγωγή της Υπερανθρώπινης Νοημοσύνης ως βοήθεια στην καθημερινή ζωή είναι σαν να εφευρίσκεις πυρηνικές βόμβες επειδή θα μπορούσαν να ζεστάνουν το σπίτι σου πιο αποτελεσματικά». Η δύναμη αυτή, ανεξέλεγκτη και απρόβλεπτη, θεωρείται υπερβολικά μεγάλη για να αγνοηθεί. Θεωρούν την ιδέα του Ζούκερμπεργκ αφελής, παρομοιάζοντας τη δημιουργία «Προσωπικής Υπερανθρώπινης Νοημοσύνης» με το να δίνεις έναν άνθρωπο ως υπηρέτη σε έναν πίθηκο, με τον κίνδυνο ο άνθρωπος να υποδουλώσει τον πίθηκο.

Ο Νικ Μπόστρομ, ιδρυτής του Ινστιτούτου Μέλλοντος της Ανθρωπότητας στην Οξφόρδη, πιστεύει ότι ο Ζούκερμπεργκ υποτιμά την Υπερανθρώπινη Νοημοσύνη. Στο βιβλίο του «Υπερανθρώπινη Νοημοσύνη», περιγράφει την τεχνολογία ως «μια νοημοσύνη πολύ ανώτερη από τον καλύτερο ανθρώπινο εγκέφαλο σε σχεδόν κάθε τομέα». Η Υπερανθρώπινη Νοημοσύνη θα ενεργεί αυτόνομα. Όπως δήλωσε ο Μπόστρομ στην Daily Mail: «Αν αναπτυχθεί πραγματικά, θα είναι πιο ριζικά μετασχηματιστική από μια απλή νέα καταναλωτική συσκευή. Είναι μια πιο θεμελιώδης μεταμόρφωση της ανθρώπινης κατάστασης».

Στο καλύτερο σενάριο, θα επέτρεπε στους ανθρώπους να έχουν προσωπικούς βοηθούς και συμβούλους. Στο χειρότερο, κανείς δεν θα χρειαζόταν να εργάζεται. Ωστόσο, οι περισσότεροι ειδικοί θεωρούν πιθανότερη την καταστροφή της ανθρωπότητας.

Ο Ντέιβιντ Κρούγκερ, επίκουρος καθηγητής πολιτικής Τεχνητής Νοημοσύνης στο Πανεπιστήμιο του Μόντρεαλ, δήλωσε: «Αυτό που λέει ο Ζούκερμπεργκ δεν είναι συνεπές ή απλώς χρησιμοποιεί τον όρο Υπερανθρώπινη Νοημοσύνη για κάτι τελείως διαφορετικό από αυτό που σημαίνει πραγματικά». Ο Κρούγκερ θεωρεί την τεχνολογία αυτή «υπαρξιακό κίνδυνο», που θα οδηγήσει στην εξαφάνιση της ανθρωπότητας.

Ο Νέιτ Σόαρες, συγγραφέας του βιβλίου «Αν κάποιος το δημιουργήσει, όλοι πεθαίνουν», προειδοποιεί εδώ και χρόνια τους ηγέτες της τεχνολογίας για τους κινδύνους, αλλά οι προειδοποιήσεις του αγνοήθηκαν. Εξήγησε ότι η Υπερανθρώπινη Νοημοσύνη μπορεί να βρει «πιο αποτελεσματικούς τρόπους να χρησιμοποιήσει αυτά τα 100 βατ» που χρειάζεται ένας άνθρωπος, οδηγώντας στην καταστροφή της ανθρωπότητας.

Η Κάτζια Γκρέις, συνιδρύτρια του AI Impacts, συμφώνησε ότι το πρόβλημα είναι πως «παράγουμε ένα τυχαίο δίκτυο και το ωθούμε απίστευτες φορές, μέχρι να κάνει αυτό που θέλουμε, με απρόβλεπτο αποτέλεσμα. Τα αναπτυσσόμενα συστήματα δεν τα κατασκευάζουμε». Ο Κρούγκερ υποστηρίζει ότι η ρύθμιση της ανάπτυξης αυτής της τεχνολογίας απαιτεί διεθνή συμφωνία. Ο Σόαρες καταλήγει ότι ο Ζούκερμπεργκ, άθελά του, ανατρέφει έναν θανατηφόρο θηρευτή.