Η Anthropic ζητά επιβράδυνση της τεχνητής νοημοσύνης, προειδοποιεί ότι οι άνθρωποι θα μπορούσαν να χάσουν τον έλεγχο της τεχνολογίας

Η Anthropic, μία από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο, ζήτησε επιβράδυνση στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης, προειδοποιώντας ότι η ανθρωπότητα μπορεί να πλησιάζει σε ένα σημείο όπου η τεχνολογία θα γίνει δύσκολο να ελεγχθεί. Η εταιρεία πίσω από το chatbot Claude δήλωσε ότι θα υποστήριζε μια προσωρινή παύση στην ανάπτυξη πιο ισχυρών μοντέλων τεχνητής νοημοσύνης, εάν άλλοι κορυφαίοι προγραμματιστές συμφωνούσαν να κάνουν το ίδιο. Ο Anthropic υποστήριξε ότι μια επιβράδυνση θα μπορούσε να προσφέρει στις κυβερνήσεις, τους ερευνητές και την κοινωνία περισσότερο χρόνο για να κατανοήσουν και να διαχειριστούν τους κινδύνους που σχετίζονται με τα ολοένα και πιο ικανά συστήματα Τεχνητής Νοημοσύνης. Η προειδοποίηση έρχεται καθώς η Anthropic συνεχίζει να τοποθετείται ως ένας από τους ισχυρότερους υποστηρικτές της ασφάλειας της Τεχνητής Νοημοσύνης στον κλάδο. Η εταιρεία φέρεται να έχει παρακρατήσει την πρόσβαση του κοινού στο πιο προηγμένο σύστημα Τεχνητής Νοημοσύνης της, γνωστό ως Mythos, λόγω ανησυχιών ότι θα μπορούσε να χρησιμοποιηθεί λανθασμένα για μεγάλης κλίμακας κυβερνοεπιθέσεις και άλλες επιβλαβείς δραστηριότητες. Οι ερευνητές προειδοποιούν για την αυτοβελτιούμενη τεχνητή νοημοσύνη Σε ένα δοκίμιο που δημοσιεύθηκε την Πέμπτη, η Μαρίνα Φαβάρο, επικεφαλής του τμήματος έρευνας της Anthropic, και ο πρόεδρος της εταιρείας Τζακ Κλαρκ δήλωσαν ότι η Τεχνητή Νοημοσύνη μπορεί να πλησιάζει σε ένα κρίσιμο ορόσημο γνωστό ως «επαναληπτική αυτοβελτίωση». Η Grecian Delight στηρίζει την Ελλάδα Η έννοια αναφέρεται σε συστήματα Τεχνητής Νοημοσύνης που βοηθούν στο σχεδιασμό και τη βελτίωση των μελλοντικών γενεών Τεχνητής Νοημοσύνης με μειωμένη ανθρώπινη εμπλοκή. Οι ερευνητές δήλωσαν ότι μια τέτοια εξέλιξη θα μπορούσε να επιταχύνει γρήγορα την τεχνολογική πρόοδο, αλλά και να εισαγάγει νέες προκλήσεις για την εποπτεία και τον έλεγχο. Οι Favaro και Clark επεσήμαναν αυξανόμενες ενδείξεις ότι η Τεχνητή Νοημοσύνη συμβάλλει ήδη στην ανάπτυξή της. Σύμφωνα με την εταιρεία, οι εργαζόμενοι παράγουν πλέον περίπου οκτώ φορές περισσότερο κώδικα από ό,τι μεταξύ 2021 και 2025, κυρίως λόγω της ανάπτυξης λογισμικού με τη βοήθεια της Τεχνητής Νοημοσύνης. Οι ερευνητές δήλωσαν επίσης ότι τα συστήματα Τεχνητής Νοημοσύνης βελτιώνονται στη δημιουργία ιδεών, στον σχεδιασμό έρευνας και στην υποστήριξη επιστημονικού έργου. Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, έχει προειδοποιήσει στο παρελθόν για τους πιθανούς κινδύνους της προηγμένης τεχνητής νοημοσύνης, εκτιμώντας ότι υπάρχει 25% πιθανότητα η τεχνολογία να οδηγήσει σε σοβαρά αρνητικά αποτελέσματα εάν δεν αναπτυχθεί υπεύθυνα. Μια παγκόσμια παύση θα ήταν δύσκολη Παρά την προτροπή για προσοχή, ο Anthropic αναγνώρισε ότι ο συντονισμός μιας παγκόσμιας επιβράδυνσης θα ήταν εξαιρετικά δύσκολος. Η εταιρεία δήλωσε ότι οποιαδήποτε ουσιαστική παύση θα απαιτούσε τη συνεργασία μεταξύ κορυφαίων εργαστηρίων Τεχνητής Νοημοσύνης σε πολλές χώρες. Σημείωσε επίσης ότι η επαλήθευση της συμμόρφωσης θα ήταν δύσκολη, επειδή οι εκπαιδεύσεις στην Τεχνητή Νοημοσύνη μπορούν να διεξάγονται ιδιωτικά και είναι πολύ λιγότερο ορατές από τις παραδοσιακές στρατιωτικές υποδομές. Ο Anthropic συνέκρινε τον ανταγωνισμό για την ανάπτυξη προηγμένης τεχνητής νοημοσύνης με έναν αγώνα εξοπλισμών , υποστηρίζοντας ότι οι εταιρείες ενδέχεται να αισθάνονται πίεση να κινηθούν ταχύτερα για να αποφύγουν να μείνουν πίσω από τους αντιπάλους τους. Οι επικριτές αμφισβητούν τις προειδοποιήσεις Δεν συμφωνούν όλοι οι ειδικοί με την εκτίμηση του Anthropic. Ορισμένοι ερευνητές και παρατηρητές του κλάδου υποστηρίζουν ότι οι εταιρείες τεχνητής νοημοσύνης ενδέχεται να υπερεκτιμούν τις δυνατότητες των υφιστάμενων συστημάτων ή να δίνουν έμφαση στους κινδύνους για να ενθαρρύνουν κανονισμούς που θα μπορούσαν να θέσουν σε μειονεκτική θέση τους ανταγωνιστές. Η συζήτηση έρχεται εν μέσω αυξανόμενης αβεβαιότητας στον τομέα της Τεχνητής Νοημοσύνης. Οι μετοχές της εταιρείας ημιαγωγών Broadcom υποχώρησαν πρόσφατα απότομα, αφού απογοήτευσαν τους επενδυτές με τις προοπτικές πωλήσεών της, πυροδοτώντας μια ευρύτερη πτώση μεταξύ των κατασκευαστών τσιπ που σχετίζονται με την Τεχνητή Νοημοσύνη και ανανεώνοντας τις ανησυχίες ότι ο ενθουσιασμός γύρω από την τεχνητή νοημοσύνη μπορεί να έχει ξεπεράσει την πραγματικότητα της αγοράς. Καθώς οι δυνατότητες της Τεχνητής Νοημοσύνης συνεχίζουν να εξελίσσονται, τα ερωτήματα σχετικά με την ασφάλεια, τη διακυβέρνηση και την εποπτεία αναμένεται να παραμείνουν στο επίκεντρο της παγκόσμιας συζήτησης γύρω από την τεχνολογία.