Κυκλοφορούμε έναν ταξινομητή που έχει εκπαιδευτεί να διακρίνει μεταξύ γραπτού κειμένου και γραπτού κειμένου με τεχνητή νοημοσύνη.
Έχουμε εκπαιδεύσει έναν ταξινομητή για τη διάκριση μεταξύ κειμένου που γράφτηκε από άνθρωπο και κειμένου που γράφτηκε από AI από διάφορους παρόχους. Αν και είναι αδύνατο να ανιχνευθεί με αξιοπιστία όλο το κείμενο που έχει γραφτεί με τεχνητή νοημοσύνη, πιστεύουμε ότι οι καλοί ταξινομητές μπορούν να ενημερώσουν τους μετριασμούς για ψευδείς ισχυρισμούς ότι το κείμενο που δημιουργήθηκε από την τεχνητή νοημοσύνη γράφτηκε από άνθρωπο: για παράδειγμα, εκτελείται αυτοματοποιημένες εκστρατείες παραπληροφόρησης, χρησιμοποιώντας εργαλεία AI για ακαδημαϊκή ανεντιμότητα και τοποθετώντας ένα chatbot AI ως άνθρωπο.
Ο ταξινομητής μας δεν είναι πλήρως αξιόπιστος. Στις αξιολογήσεις μας σε ένα «σύνολο πρόκλησης» αγγλικών κειμένων, ο ταξινομητής μας προσδιορίζει σωστά το 26% του γραπτού κειμένου με τεχνητή νοημοσύνη (αληθινά θετικά) ως «πιθανόν γραμμένο με τεχνητή νοημοσύνη», ενώ επισημαίνει εσφαλμένα το ανθρώπινο γραπτό κείμενο ως γραμμένο με τεχνητή νοημοσύνη 9% του ο χρόνος (ψευδώς θετικά). Η αξιοπιστία του ταξινομητή μας συνήθως βελτιώνεται καθώς αυξάνεται το μήκος του κειμένου εισαγωγής. Σε σύγκριση με το δικό μας ταξινομητής που κυκλοφόρησε προηγουμένως, αυτός ο νέος ταξινομητής είναι σημαντικά πιο αξιόπιστος σε κείμενο από πιο πρόσφατα συστήματα τεχνητής νοημοσύνης.
Κάνουμε αυτόν τον ταξινομητή δημόσια διαθέσιμο για να λάβουμε σχόλια σχετικά με το αν είναι χρήσιμα ατελή εργαλεία όπως αυτό. Το έργο μας για τον εντοπισμό κειμένου που δημιουργείται από AI θα συνεχιστεί και ελπίζουμε να μοιραστούμε βελτιωμένες μεθόδους στο μέλλον.
Δοκιμάστε μόνοι σας τον ταξινομητή μας σε εξέλιξη:
Περιορισμοί
Ο ταξινομητής μας έχει μια σειρά σημαντικών περιορισμών. Δεν πρέπει να χρησιμοποιείται ως πρωταρχικό εργαλείο λήψης αποφάσεων, αλλά αντίθετα ως συμπλήρωμα σε άλλες μεθόδους προσδιορισμού της πηγής ενός κειμένου.
- Ο ταξινομητής είναι πολύ αναξιόπιστος σε σύντομα κείμενα (κάτω από 1,000 χαρακτήρες). Ακόμη και μεγαλύτερα κείμενα μερικές φορές επισημαίνονται εσφαλμένα από τον ταξινομητή.
- Μερικές φορές το κείμενο που έχει γραφτεί από άνθρωπο θα επισημαίνεται εσφαλμένα αλλά με σιγουριά ως γραμμένο με τεχνητή νοημοσύνη από τον ταξινομητή μας.
- Συνιστούμε τη χρήση του ταξινομητή μόνο για αγγλικό κείμενο. Αποδίδει σημαντικά χειρότερα σε άλλες γλώσσες και είναι αναξιόπιστο στον κώδικα.
- Το κείμενο που είναι πολύ προβλέψιμο δεν μπορεί να προσδιοριστεί με αξιοπιστία. Για παράδειγμα, είναι αδύνατο να προβλεφθεί εάν μια λίστα με τους πρώτους 1,000 πρώτους αριθμούς γράφτηκε από AI ή ανθρώπους, επειδή η σωστή απάντηση είναι πάντα η ίδια.
- Το γραμμένο με τεχνητή νοημοσύνη κείμενο μπορεί να επεξεργαστεί για να αποφύγει τον ταξινομητή. Ταξινομητές όπως ο δικός μας μπορούν να ενημερωθούν και να επανεκπαιδευτούν βάσει επιτυχημένων επιθέσεων, αλλά δεν είναι σαφές εάν η ανίχνευση έχει πλεονέκτημα μακροπρόθεσμα.
- Οι ταξινομητές που βασίζονται σε νευρωνικά δίκτυα είναι γνωστό ότι είναι ανεπαρκώς βαθμονομημένοι εκτός των δεδομένων εκπαίδευσής τους. Για εισόδους που είναι πολύ διαφορετικές από το κείμενο στο εκπαιδευτικό μας σύνολο, ο ταξινομητής είναι μερικές φορές εξαιρετικά σίγουρος για μια λανθασμένη πρόβλεψη.
Εκπαίδευση του ταξινομητή
Ο ταξινομητής μας είναι ένα μοντέλο γλώσσας προσαρμοσμένο σε ένα σύνολο δεδομένων από ζεύγη ανθρώπινου κειμένου και κειμένου γραπτού με τεχνητή νοημοσύνη για το ίδιο θέμα. Συλλέξαμε αυτό το σύνολο δεδομένων από μια ποικιλία πηγών που πιστεύουμε ότι έχουν γραφτεί από ανθρώπους, όπως τα δεδομένα προεκπαίδευσης και οι ανθρώπινες επιδείξεις σχετικά με τις προτροπές που υποβλήθηκαν σε InstructGPT. Χωρίσαμε κάθε κείμενο σε μια προτροπή και μια απάντηση. Σε αυτές τις προτροπές δημιουργήσαμε απαντήσεις από μια ποικιλία διαφορετικών γλωσσικών μοντέλων που εκπαιδεύτηκαν από εμάς και άλλους οργανισμούς. Για την εφαρμογή ιστού μας, προσαρμόζουμε το όριο εμπιστοσύνης για να διατηρήσουμε το ποσοστό ψευδώς θετικών πολύ χαμηλό. Με άλλα λόγια, επισημαίνουμε κείμενο ως πιθανό γραμμένο με τεχνητή νοημοσύνη μόνο εάν ο ταξινομητής είναι πολύ σίγουρος.
Αντίκτυπος στους εκπαιδευτικούς και έκκληση για συμβολή
Αναγνωρίζουμε ότι ο προσδιορισμός του γραπτού κειμένου με τεχνητή νοημοσύνη ήταν ένα σημαντικό σημείο συζήτησης μεταξύ των εκπαιδευτικών και εξίσου σημαντική είναι η αναγνώριση των ορίων και των επιπτώσεων των ταξινομητών κειμένου που δημιουργούνται με τεχνητή νοημοσύνη στην τάξη. Έχουμε αναπτύξει α προκαταρκτικός πόρος σχετικά με τη χρήση του ChatGPT για εκπαιδευτικούς, το οποίο περιγράφει ορισμένες από τις χρήσεις και τους σχετικούς περιορισμούς και εκτιμήσεις. Ενώ αυτός ο πόρος επικεντρώνεται σε εκπαιδευτικούς, αναμένουμε ότι ο ταξινομητής μας και τα σχετικά εργαλεία ταξινομητή θα έχουν αντίκτυπο σε δημοσιογράφους, ερευνητές παραπληροφόρησης/παραπληροφόρησης και άλλες ομάδες.
Συνεργαζόμαστε με εκπαιδευτικούς στις ΗΠΑ για να μάθουμε τι βλέπουν στις τάξεις τους και να συζητήσουμε τις δυνατότητες και τους περιορισμούς του ChatGPT και θα συνεχίσουμε να διευρύνουμε την εμβέλειά μας καθώς μαθαίνουμε. Αυτές είναι σημαντικές συνομιλίες που πρέπει να έχουμε ως μέρος της αποστολής μας είναι να αναπτύξουμε μεγάλα γλωσσικά μοντέλα με ασφάλεια, σε άμεση επαφή με τις πληγείσες κοινότητες.
Εάν επηρεάζεστε άμεσα από αυτά τα ζητήματα (συμπεριλαμβανομένων, ενδεικτικά, των δασκάλων, των διαχειριστών, των γονέων, των μαθητών και των παρόχων εκπαιδευτικών υπηρεσιών), δώστε μας σχόλια χρησιμοποιώντας αυτή η μορφή. Άμεση ανατροφοδότηση για το προκαταρκτικός πόρος είναι χρήσιμο και χαιρετίζουμε επίσης οποιουσδήποτε πόρους αναπτύσσουν ή έχουν βρει χρήσιμους οι εκπαιδευτικοί (π.χ. οδηγίες μαθημάτων, κώδικας τιμής και ενημερώσεις πολιτικής, διαδραστικά εργαλεία, προγράμματα παιδείας τεχνητής νοημοσύνης).
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- Platoblockchain. Web3 Metaverse Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- πηγή: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 7
- a
- ακαδημαϊκής
- διαχειριστές
- Πλεονέκτημα
- AI
- AI chatbot
- Συστήματα AI
- Όλα
- πάντοτε
- μεταξύ των
- και
- απάντηση
- app
- συσχετισμένη
- Επιθέσεις
- διαθέσιμος
- βασίζονται
- επειδή
- Πιστεύω
- παρακάτω
- μεταξύ
- ευρύνω
- κλήση
- δεν μπορώ
- δυνατότητες
- χαρακτήρες
- chatbot
- ChatGPT
- αξιώσεις
- κωδικός
- Κοινοτήτων
- σύγκριση
- Συμπλήρωμα
- εμπιστοσύνη
- βέβαιος
- με σιγουριά
- θεωρήσεις
- επικοινωνήστε μαζί μας
- ΣΥΝΕΧΕΙΑ
- συνομιλίες
- πορεία
- ημερομηνία
- Λήψη Αποφάσεων
- παρατάσσω
- Ανίχνευση
- καθορίζοντας
- αναπτύχθηκε
- ανάπτυξη
- διαφορετικές
- κατευθύνει
- κατευθείαν
- συζητήσουν
- συζήτηση
- διακρίνω
- διαιρούμενο
- κάθε
- Εκπαίδευση
- εκπαιδευτικούς
- ελκυστικός
- Αγγλικά
- εξίσου
- αξιολογήσεις
- Even
- παράδειγμα
- αναμένω
- εξαιρετικά
- ανατροφοδότηση
- Όνομα
- επικεντρώθηκε
- Βρέθηκαν
- από
- πλήρως
- μελλοντικός
- παράγεται
- παίρνω
- καλός
- Ομάδα
- κατευθυντήριων γραμμών
- χρήσιμο
- ελπίζω
- HTTPS
- ανθρώπινος
- Οι άνθρωποι
- προσδιορίζονται
- αναγνωρίζει
- προσδιορισμό
- Επίπτωση
- επηρεάζονται
- Επιπτώσεις
- σημαντικό
- αδύνατος
- βελτιωθεί
- βελτιώνει
- in
- Σε άλλες
- Συμπεριλαμβανομένου
- εσφαλμένα
- Αυξήσεις
- εισαγωγή
- αντί
- διαδραστικό
- θέματα
- IT
- Δημοσιογράφοι
- Διατήρηση
- γνωστός
- τιτλοφόρηση
- Γλώσσα
- Γλώσσες
- large
- δρομολόγηση
- ΜΑΘΑΊΝΩ
- Μήκος
- Πιθανός
- περιορισμούς
- Περιωρισμένος
- όρια
- Λίστα
- γνώση γραφής
- μακροπρόθεσμος
- πλέον
- Χαμηλός
- Κατασκευή
- σημάδι
- μέθοδοι
- Κακή πληροφορία
- Αποστολή
- μοντέλο
- μοντέλα
- περισσότερο
- δίκτυα
- Νευρικός
- νευρωνικά δίκτυα
- Νέα
- αριθμός
- αριθμοί
- ONE
- OpenAI
- οργανώσεις
- ΑΛΛΑ
- περιγράφει
- προβολής
- εκτός
- ζεύγη
- γονείς
- μέρος
- εκτελεί
- κομμάτι
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- σας παρακαλούμε
- Σημείο
- πολιτική
- τοποθέτηση
- θετικός
- προβλέψει
- Αναμενόμενος
- πρόβλεψη
- πρωταρχικός
- Ακμή
- Προγράμματα
- παρέχουν
- Παρόχους υπηρεσιών
- δημοσίως
- Τιμή
- πρόσφατος
- αναγνωρίζω
- συνιστώ
- κυκλοφόρησε
- αξιοπιστία
- αξιόπιστος
- ερευνητές
- πόρος
- Υποστηρικτικό υλικό
- απάντησης
- τρέξιμο
- ασφάλεια
- ίδιο
- βλέποντας
- υπηρεσία
- πάροχοι υπηρεσιών
- σειρά
- Κοινοποίηση
- Κοντά
- θα πρέπει να
- σημαντικά
- μερικοί
- Πηγή
- Πηγές
- Φοιτητές
- υποβάλλονται
- επιτυχής
- τέτοιος
- συστήματα
- δασκάλους
- Η
- Το μέλλον
- Η Πηγη
- τους
- κατώφλι
- προς την
- εργαλεία
- τοπικός
- εκπαιδευμένο
- Εκπαίδευση
- αληθής
- συνήθως
- ενημερώθηκε
- ενημερώσεις
- us
- χρήση
- ποικιλία
- ιστός
- καλωσόρισμα
- Τι
- αν
- Ποιό
- ενώ
- θα
- λόγια
- Εργασία
- γραπτή
- Λανθασμένος
- τον εαυτό σας
- zephyrnet