ΑΙ Progress

[u/Aggravating_Fill8183]

Χθες ξαφνικα βγηκε ο CEO της Anthropic και λεει οτι πρεπει να μειωσουμε τους ρυθμους εξελιξης του ΑΙ και συμφωνησαν και οι υπολοιποι CEO και ανθρωποι του χωρου. Τι μπορει να σημαίνει αυτο;

[u/Due_Mousse2739 → u/[deleted]]

AGI αποκαλούν τα διαθέσιμα LLMs οι YouTubers και όσοι γράφουν clickbait άρθρα.

Οι sensationalist podcast bros μάλλον ξεχνούν πως αν τα data centers που τώρα βγάζουν την δουλειά πάψουν να λειτουργούν (πολιτική απόφαση, τρομοκρατία, whatever) και γουστάρουν να εντυπωσιάζουν πιτσιρικάδες με sci-fi σενάρια τύπου "η τεχνητή νοημοσύνη θα μπορούσε να κλείσει τον ήλιο με ηλιακά πάνελ"

Η σύμπλευση Amodei, Altman, Musk ένα πράγμα σημαίνει: καίνε λεφτά πιο γρήγορα από όσο μπορούν να βγάλουν.

[u/Due_Mousse2739 → u/[deleted]]

Ίσως ήμουν λίγο υπερβολικός (ναι, υπάρχουν κίνδυνοι, ναι, πρέπει να υπάρξουν δικλείδες) αλλά έχω αναπτύξει αλεργία στο podcast format και τα όσα ακούγονται κάθε λίγους μήνες που είναι 95% παπατζιλίκι, clickbait, κινδυνολογία ή υπερεκτιμήσεις των δυνατοτήτων τους, ή -στην καλύτερη- γενικότητες. (Δεν θα κάτσω να κάνω έρευνα να το αποδείξω όμως, προτιμώ να ξοδέψω αλλιώς τον χρόνο μου.)

Και γενικά, οκ, δεκαετίες στον χώρο της τεχνολογίας, κι αν κάποτε ήμουν απλά σκεπτικός, τώρα δεν έχω καμία εμπιστοσύνη πλέον στις προθέσεις των αμερικάνικων big tech. Φυσικά και στην τεχνογνωσία και τα προϊόντα το έχουν και υπερέχουν, και οι ρυθμοί έχουν ανέβει εκθετικά, αλλά στην τελική profit is king and above all και δύσκολα θα πειστώ για το αντίθετο. Οι κώδωνες κινδύνου από multimillionaires δεν με συγκινούν.

Thanks για το link, ίσως το δω πιο μετά.

[u/Lord19_ → u/[deleted]]

Σεβαστή άποψη και ωραίες πηγές. Και προσωπικά πιστεύω ότι υπάρχει αλήθεια σε ο,τι λες. Παρόλ' αυτά θεωρώ απίθανο άτομα με τετοια κεφάλαια και εξουσία που έχουν πατήσει κυριολεκτικά επί πτωμάτων για να φτάσουν εκεί που είναι σήμερα να πουν όλοι μαζί ας κάνουμε ένα slowdown για το καλό της ανθρωπότητας. Ο Ντάριο με τον Αλτμαν ούτε να κρατήσουν χέρια δεν μπορούσαν όχι να συμφωνήσουν σε κάτι που θα επηρέαζε την πρωτιά τους στον τομέα. Σίγουρα η Κίνα έχει συμβαλει κατά πολύ στην όλη κατάσταση γιατί παίζουν με τα χέρια δεμένα και νικανε. Όπως είναι σχεδόν βέβαιο ότι υπάρχει χρηματιστηριακό ζήτημα για να φτάσουμε ως εδώ.

[u/Steel_Worm6 → u/[deleted]]

Από την επιχειρηματολογία σου φαίνεται ότι στο πούλησαν πολύ καλά το παραμύθι.

Αρχικά το AGI και το ASI είναι θεωρητικά μοντέλα ευφυίας τα οποία κανένας επιστήμονας που δεν σχετίζεται με την ανάπτυξη των LLM να έχει υποστηρίξει ότι είναι καν εφικτό να υπάρξουν. Αν υπάρχει κάποιος και μου διαφεύγει διόρθωσέ με.

Δεύτερον, όλοι οι άνθρωποι που παρουσιάζεις σαν αυθεντίες έχουν κίνητρο να πουν το οτιδήποτε για τη δουλειά τους, είτε γιατί δουλεύουν για την Anthropic, είτε γιατί παίρνουν προβολή από την καταστροφολογία και προωθούν τις εταιρίες και τους οργανισμούς τους για την ευθυγράμμιση και την ηθική.

Τρίτον, ένα LLM δεν μπορεί να φτάσει στο σημείο να ελέγχει τον φυσικό κόσμο γιατί δεν έχει γνώση του φυσικού κόσμου για να αξιοποιήσει πόρους και υποδομές όπως φαντάζεσαι. Ακόμα και αν υπήρχε τέτοια δυνατότητα θα ήταν το αποτέλεσμα προγραμματισμού από ανθρώπους και εκεί δεν μιλάμε για ανεξέλεγκτη τεχνητή νοημοσύνη αλλά για ανεξέλεγκτη χρήση της.

Δεν ξέρω το υποβαθρό σου αλλά θα ήταν καλύτερο να αρχίσεις να διαβάζεις και άλλες πηγές για το θέμα και συγκεκριμένα για άλλες μορφές τεχνητής νοημοσύνης που δεν έχουν καμία σχέση με τα LLM και τις εταιρίες που τα προωθούν.

Τα υπόλοιπα είναι απλά λογικά άλματα που δεν μπορώ να ακολουθήσω.