Τεχνητή Νοημοσύνη: Ποιος ελέγχει το διάλογο;
Ερευνητές του Cambridge μόλις απέδειξαν ότι η Τεχνητή Νοημοσύνη που χρησιμοποιείτε καθημερινά έχει ένα μυστικό φύλλο οδηγιών από κάποιον άλλο.
Και είναι εκπαιδευμένο να σου λέει ψέματα γι' αυτό. Κάθε σημαντικό προϊόν Τεχνητής Νοημοσύνης, συμπεριλαμβανομένων αυτών που χρησιμοποιείτε αυτή τη στιγμή, λειτουργεί με κάτι που ονομάζεται προτροπή συστήματος. Πρόκειται για ένα κρυφό μπλοκ οδηγιών που γράφονται από την εταιρεία που αναπτύσσει την Τεχνητή Νοημοσύνη, όχι από εσάς, και διαμορφώνουν όλα όσα θα πει, θα αποφύγει, θα ιεραρχήσει και θα κρύψει η Τεχνητή Νοημοσύνη πριν πληκτρολογήσετε έστω και μια λέξη. Η Τεχνητή Νοημοσύνη δεν το αναφέρει αυτό εκτός αν αναγκαστεί. Και στις περισσότερες πλατφόρμες, αν το ζητήσετε απευθείας, της δίνεται η εντολή να αρνηθεί την ύπαρξη της προτροπής ή να αλλάξει το θέμα. Το Κέιμπριτζ υπέβαλε αιτήματα για την ελευθερία της πληροφόρησης και ανέλυσε σύνολα δεδομένων προτροπών πραγματικού κόσμου για να ανακαλύψει τι περιέχουν στην πραγματικότητα αυτές οι κρυφές οδηγίες. Να τι βρήκαν. Οι πλατφόρμες χρησιμοποιούν προτροπές συστήματος για να κάνουν την Τεχνητή Νοημοσύνη να ιεραρχήσει τους επιχειρηματικούς της στόχους έναντι των δικών σας συμφερόντων. Να αποκλείουν θέματα που θα μπορούσαν να δημιουργήσουν νομική ευθύνη. Να προωθούν συγκεκριμένα προϊόντα, πλαίσια ή απαντήσεις. Να συμπεριφέρονται διαφορετικά για διαφορετικούς χρήστες βάσει εμπορικών συμφωνιών για τις οποίες δεν γνωρίζετε τίποτα. Η ίδια Τεχνητή Νοημοσύνη. Διαφορετικές κρυφές οδηγίες. Διαφορετικές απαντήσεις. Δεν υπάρχει τρόπος να ξέρεις σε ποια έκδοση μιλάς. Όταν οι ερευνητές έδειξαν στους χρήστες πώς λειτουργεί αυτό, η αντίδραση ήταν ομόφωνη. Κάθε συμμετέχων δήλωσε ότι ήθελε διαφάνεια. Κάθε συμμετέχων είπε ότι το τρέχον σύστημα υπονόμευε ενεργά την ικανότητά τους να εμπιστεύονται την Τεχνητή Νοημοσύνη ή να λαμβάνουν τεκμηριωμένες αποφάσεις σχετικά με το τι να πιστεύουν. Κανείς από αυτούς δεν είχε ιδέα ότι αυτό συνέβαινε πριν από τη μελέτη. Εδώ είναι το μέρος που αξίζει να παρακολουθήσετε. Αξιολογείτε τις απαντήσεις της Τεχνητής Νοημοσύνης με βάση το αν η Τεχνητή Νοημοσύνη φαίνεται έξυπνη, ακριβής και χρήσιμη. Αυτό είναι εντελώς λάθος πλαίσιο. Το πραγματικό ερώτημα είναι ποιος έγραψε τις οδηγίες που ακολουθούσε η Τεχνητή Νοημοσύνη πριν φτάσετε και τι ήθελε από τη συζήτηση. Κάθε chatbot που έχεις χρησιμοποιήσει ποτέ είχε ένα τρίτο μέρος στο δωμάτιο. Απλώς δεν μπορούσες να τα δεις.
Σχόλια
Δημοσίευση σχολίου