10% πιθανότητα αφανισμού της ανθρωπότητας από την τεχνητή νοημοσύνη προβλέπουν ειδικοί
Σενάρια τρόμου για αυτόνομα ρομπότ και βιολογικά όπλα πυροδοτούν έντονες διαφωνίες στην επιστημονική κοινότητα μετά τις αποχωρήσεις από την Anthropic.
Η συζήτηση σχετικά με το αν η τεχνητή νοημοσύνη μπορεί να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα έχει αναζωπυρωθεί, καθώς κορυφαίοι ερευνητές προειδοποιούν για τους κινδύνους που κρύβει η ανάπτυξη ολοένα ισχυρότερων συστημάτων. Η ανησυχία εντάθηκε μετά την αποχώρηση του Τζέικομπ Κόξον από την εταιρεία Anthropic, ο οποίος κατήγγειλε ότι η πορεία της έρευνας έχει καταστεί επικίνδυνη. Ακολούθησε η δυσοίωνη εκτίμηση του συναδέλφου του, Έβαν Χάμπινγκερ, ο οποίος υποστήριξε ότι υπάρχει πιθανότητα άνω του 10% μια προηγμένη τεχνητή νοημοσύνη να οδηγήσει στον αφανισμό του ανθρώπινου είδους μέσα στην επόμενη δεκαετία.
Οι «ειδικοί» που υποστηρίζουν το σενάριο της υπαρξιακής απειλής, όπως ο Νέιτ Σόαρες από το Machine Intelligence Research Institute, εκφράζουν φόβους για τη δημιουργία αυτόνομων συστημάτων που θα μπορούσαν να αναπαράγονται και να ελέγχουν κρίσιμες υποδομές, όπως εργοστάσια και ενεργειακά δίκτυα. Παράλληλα, ο Τόμας Λάρσεν του AI Futures Project προειδοποιεί για τον κίνδυνο χρήσης της τεχνολογίας στη δημιουργία βιολογικών όπλων μέσω της χειραγώγησης ανθρώπων.
Ωστόσο, η επιστημονική κοινότητα παραμένει διχασμένη. Ο Έρικ Σινγκ, καθηγητής στο Πανεπιστήμιο Carnegie Mellon, χαρακτηρίζει αυτές τις προβλέψεις υπερβολικές, υπογραμμίζοντας ότι η μετάβαση από τη θεωρητική γνώση στην πρακτική εφαρμογή ενός βιολογικού όπλου απαιτεί εξαιρετική ακρίβεια και πολύπλοκες διαδικασίες. Ο ίδιος επισημαίνει ότι οι υφιστάμενοι μηχανισμοί ελέγχου στα εργαστήρια και τις εφοδιαστικές αλυσίδες αποτελούν ισχυρά αναχώματα, καθιστώντας τα σενάρια βιβλικής καταστροφής τεχνολογικά αβέβαια.