Από την ομιλία του Geoffrey Hinton, στην τελετή απονομής βραβείων Νόμπελ, 10 Δεκεμβρίου 2024, κατά την οποία βραβεύτηκε με το βραβείο Νόμπελ στη Φυσική, μαζί με τον John Hopfield, για «θεμελιώδεις ανακαλύψεις και εφευρέσεις που επιτρέπουν τη μηχανική μάθηση με τεχνητά νευρωνικά δίκτυα»:
(Πηγή μεταφρασμένου κειμένου: https://www.nobelprize.org/prizes/physics/2024/hinton/speech/)
«Φέτος, οι επιτροπές Νόμπελ Φυσικής και Χημείας αναγνώρισαν τη δραματική πρόοδο που σημειώνεται σε μια νέα μορφή Τεχνητής Νοημοσύνης που χρησιμοποιεί τεχνητά νευρωνικά δίκτυα για να μάθει πώς να λύνει δύσκολα υπολογιστικά προβλήματα.
Αυτή η νέα μορφή Τεχνητής Νοημοσύνης υπερέχει στη μοντελοποίηση της ανθρώπινης διαίσθησης αντί της ανθρώπινης συλλογιστικής και θα μας επιτρέψει να δημιουργήσουμε εξαιρετικά έξυπνους και έμπειρους βοηθούς που θα αυξήσουν την παραγωγικότητα σε σχεδόν όλους τους κλάδους. Εάν τα οφέλη της αυξημένης παραγωγικότητας μπορούν να μοιραστούν ισότιμα, θα είναι μια θαυμάσια πρόοδος για όλη την ανθρωπότητα.
Δυστυχώς, όμως, η ραγδαία πρόοδος στην Τεχνητή Νοημοσύνη συνοδεύεται από πολλούς βραχυπρόθεσμους κινδύνους.
Έχει ήδη δημιουργήσει διχαστικούς ηχώ-θάλαμους προσφέροντας στους ανθρώπους περιεχόμενο που τους αγανακτεί. Χρησιμοποιείται ήδη από αυταρχικές κυβερνήσεις για μαζική παρακολούθηση και από εγκληματίες στον κυβερνοχώρο για επιθέσεις ηλεκτρονικού “ψαρέματος” (phishing). Στο εγγύς μέλλον, η Τεχνητή Νοημοσύνη μπορεί να χρησιμοποιηθεί για τη δημιουργία τρομερών νέων ιών και φρικτών θανατηφόρων όπλων που αποφασίζουν μόνες τους ποιον θα σκοτώσουν ή θα ακρωτηριάσουν. Όλοι αυτοί οι βραχυπρόθεσμοι κίνδυνοι απαιτούν επείγουσα και δυναμική προσοχή από τις κυβερνήσεις και τους διεθνείς οργανισμούς.
Υπάρχει επίσης μια μακροπρόθεσμη υπαρξιακή απειλή που θα προκύψει όταν δημιουργήσουμε ψηφιακά όντα που είναι πιο έξυπνα από εμάς. Δεν έχουμε ιδέα αν μπορούμε να διατηρήσουμε τον έλεγχο. Αλλά τώρα έχουμε στοιχεία ότι αν δημιουργηθούν από εταιρείες που έχουν ως κίνητρο τα βραχυπρόθεσμα κέρδη, η ασφάλειά μας δεν θα είναι η ύψιστη προτεραιότητα. Χρειαζόμαστε επειγόντως έρευνα για το πώς να αποτρέψουμε αυτά τα νέα όντα από το να θέλουν να πάρουν τον έλεγχο.
Δεν αποτελούν πλέον επιστημονική φαντασία.»
Η ομιλία του:
