Zdá sa, že umelá inteligencia je v dnešnej dobe všade, od interiérový dizajn do home staging . Ale jedným z najznámejších – a možno aj jedným z najkontroverznejších – použití AI v súčasnosti je ChatGPT.
Ak ste nikdy hral s ChatGPT predtým, tu je rýchly prehľad toho, ako to funguje: Ľudský používateľ zadá otázku, ako napríklad „Napíšte mi nový recept na večeru“ alebo „Ako by som mal ozdobte moju hosťovskú izbu “ a v priebehu niekoľkých sekúnd ChatGPT vypľuje odpoveď.
je 333 anjelské číslo
Niektorí ľudia a podniky však používajú ChatGPT na oveľa viac než len prípravu jedla. Veľmi sa spoliehajú na chatbota, aby z neho všetko napísal prijímacie eseje na vysokú školu do recenzie produktov — aj keď to niekedy vedie ku kontroverzným výsledkom.
Ako čitateľa vás to môže prinútiť pochybovať o tom, či ste niekedy nevedomky čítali niečo, o čom ste si mysleli, že to napísal ľudský autor, ale v skutočnosti to vytvoril robot. Zaujíma vás, ako zistiť, či niečo napísal ChatGPT? Rozprával som sa s niekoľkými odborníkmi, aby som získal ich tipy a rady na navigáciu v tomto temnom novom svete s umelou inteligenciou, v ktorom žijeme. Tu je to, čo mali povedať.
Ako hovorí ChatGPT, aby sa zistilo, či niečo napísal ChatGPT?
Najprv som však premýšľal, čo by povedal ChatGPT, keby som sa ho opýtal práve na túto otázku. Len pre zábavu som si vytvoril účet, do panela správ som napísal „ako zistiť, či niečo napísal ChatGPT“ a stlačil enter.
ChatGPT mi, samozrejme, hneď dal odpoveď.
„Identifikovať, či niečo napísal ChatGPT, môže byť náročné, pretože cieľom modelu je generovať ľudský text,“ odpovedal. 'Existujú však niektoré všeobecné charakteristiky, ktoré môžu naznačovať, že text bol vytvorený jazykovým modelom.'
Potom mi to poskytlo zoznam vlastností, ktoré by mohli naznačovať, že časť textu napísal robot, ako napríklad opakovanie rovnakých fráz alebo myšlienok viackrát alebo zdanlivo generické a chýbajúce konkrétne podrobnosti. ChatGPT tiež hovorí, že v jeho písaní môžu chýbať osobné anekdoty a emócie.
Ďalší povedať, podľa ChatGPT? Ak sa informácie zdajú zastarané, pretože ChatGPT bol vyškolený na údaje iba do januára 2022.
Na konci svojej odpovede sa ma ChatGPT pokúsil uistiť a napísal, že ak mám „konkrétne obavy alebo pochybnosti o úryvku textu, pokojne sa opýtajte a urobím, čo bude v mojich silách, aby som vám pomohol“.
Ako zistiť, či niečo napísal ChatGPT
Dobre, bol to zábavný experiment, ale teraz k tomu, čo museli povedať skutoční, ľudskí odborníci.
Prvá vec, ktorú treba zvážiť, je, že text ChatGPT je generovaný výzvou zadanou človekom. Z tohto dôvodu môže ľudský používateľ znova a znova vyladiť výzvu, aby vytvoril špecifický hlas, štýl, dĺžku a typ textu, ktorý hľadá. To môže prekvapivo sťažiť zistenie, či niečo napísal ChatGPT.
duchovný význam 444
„Vo svojom výskume som zistil, že aj dobre vyškolení ľudia majú problém spoľahlivo odhaliť generovaný text,“ hovorí Liam Dugan , ktorý počas svojej doktorandskej práce na Pensylvánskej univerzite skúma množstvo otázok súvisiacich s chatbotmi. (On a jeho kolegovia vytvorili online hru s názvom „ Skutočný alebo falošný text “, kde si ľudia môžu otestovať svoje schopnosti rozpoznávania textu generovaného AI – vyskúšajte si to sami.)
Podľa Dugana neexistujú žiadne konkrétne slová alebo frázy, ktoré by naznačovali, že časť textu napísal chatbot. Žiaľ, nemôžete použiť iba klávesovú skratku „Control + F“ pre konkrétnu slovesnosť.
Tento názor zopakovali aj ďalší odborníci.
„Bohužiaľ, nezdá sa, že by existoval jednoduchý spôsob, ako zistiť text, ktorý napísal ChatGPT alebo AI vo všeobecnosti,“ hovorí Xavier Harding, producent obsahu v spoločnosti Mozilla, ktorá stojí za internetovým prehliadačom Firefox. „Videli sme, ako tvorcovia ChatGPT, OpenAI, skúšali ponúkať metódy na detekciu textu napísaného AI a museli si ich vyvolať s tým, že neexistuje presný spôsob, ako odhaliť text vygenerovaný AI.“
Dávajte pozor na chyby pri kopírovaní a prilepovaní.
Ale to, že to môže byť ťažké povedať, neznamená, že všetka nádej je stratená. Pretože ľudia sú tí, ktorí podnecujú ChatGPT, môžete vidieť niekoľko super-zrejmých indícií, že niečo napísal chatbot.
'Videl som, že ľudia náhodne pridali vedľajšie komentáre od chatbota, ako napríklad: 'Jasné, tu je spravodajský článok o detekcii,' hovorí Dugan.
Vedieť, ako rozpoznať „halucinácie“.
Odhliadnuc od týchto typov chýb, odborníci tiež odporúčajú, aby ste si pozorne preštudovali časť textu kvôli faktickej presnosti. Čím sú informácie špecifickejšie, tým je pravdepodobnejšie, že si chatbot jednoducho vymyslí fakt alebo sa niečo pomýli, hovorí Dugan.
Ľudia, ktorí pracujú v oblasti AI, nazývajú tieto nesprávne kroky „halucináciami“.
„Umelá inteligencia niekedy povie veci, ktoré nie sú pravdivé,“ hovorí Harding. 'Toto sa dá ľahko zistiť, že čítate text vytvorený AI a nie človek, hoci môže byť ťažké zistiť, či je niečo halucinácia, ak sa to týka témy, ktorú nepoznáte.'
Ak nie ste veľmi oboznámení s témou, o ktorej čítate, vykonajte rýchle online vyhľadávanie a overte si informácie, ktoré máte pred sebou, dodáva Harding.
Dajte si pozor na písanie, ktoré je príliš všeobecné.
Ďalším znakom toho, že niečo napísal chatbot, je prílišná všeobecnosť (čo spomínal aj samotný ChatGPT). Ak sa vám časť textu zdá príliš široká – ako napríklad filmová recenzia, ktorá nespomína žiadneho z hercov podľa mena – možno budete chcieť byť podozrievaví.
„Aby sa zabránilo chybám, chatboty často píšu všeobecný text,“ hovorí Dugan. „Dajú veľmi bezpečné a predvídateľné odpovede a budú sa snažiť vyhnúť potrebe vymýšľať si informácie. To sa však ľudskému čitateľovi často môže zdať zvláštne. Čitatelia by mali venovať pozornosť všetkému, čo vyzerá, že sa vyhýba poskytovaniu konkrétnych informácií.“
Prečítajte si viac ako prvých pár viet.
Ďalší tip: Prečítajte si čo najviac textu, nie len prvú alebo dve vety. Gary Marcus , emeritný profesor psychológie a neurálnej vedy na New York University, hovorí, že môže byť jednoduchšie zistiť, či niečo napísal chatbot, keď je text dlhší.
anjelské čísla 1111 s významom
'Je to veľmi ťažké povedať z jednej vety, pretože sú trénovaní na ohromujúco veľké množstvo textu, aby zneli čo najľudskejšie,' hovorí. 'Tieto systémy často vychádzajú z koľají pri dlhšej konverzácii, ale nie nevyhnutne v krátkych úryvkoch.'
A čo detektory chatbotov?
Poobzerajte sa po internete a pravdepodobne narazíte na nástroje, ktoré tvrdia, že dokážu rozpoznať text generovaný AI. Dugan v súčasnosti vykonáva rozsiahlu štúdiu na testovanie účinnosti týchto detektorov - ale zatiaľ nie sú prvé dôkazy sľubné.
„Všetky naše výsledky naznačujú, že detektory nie sú spoľahlivé a že by ste ich nemali používať v žiadnych scenároch s vysokými stávkami,“ hovorí. „Mnoho spoločností tvrdí, že dokáže odhaliť generovaný text s presnosťou 99 percent alebo vyššou, ale tieto tvrdenia sú nepravdivé. Detektory často označujú text napísaný človekom ako vytvorený chatbotom a dajú sa ľahko oklamať.“
