ChatGPT

Wikipediasta
Siirry navigaatioon Siirry hakuun

ChatGPT on OpenAI:n marraskuussa 2022 lanseeraama chatbot. Se on rakennettu OpenAI:n suurten GPT-kielimallien (Generative Pre-trained Transformer)[1] päälle.[2]

ChatGPT julkaistiin prototyyppinä 30. marraskuuta 2022, ja se keräsi nopeasti huomiota yksityiskohtaisilla vastauksillaan monilla tietoalueilla. Sen vaihteleva faktatarkkuus todettiin merkittäväksi haitaksi.[3] ChatGPT:n julkaisun jälkeen OpenAI:n arvoksi arvioitiin noin 29 miljardia dollaria.

Ominaisuudet ja rajoitukset[muokkaa | muokkaa wikitekstiä]

Vaikka chatbotin päätehtävä on jäljitellä ihmiskeskustelijaa, toimittajat ovat myös panneet merkille ChatGPT:n monipuolisuuden mukaan lukien sen kyvyn kirjoittaa ja korjata tietokoneohjelmia, säveltää musiikkia, kirjoittaa satuja ja oppilaiden esseitä, vastata koekysymyksiin (joskus kokeesta riippuen tasolla, joka on keskimääräistä kokeentekijää korkeampi), kirjoittaa runoja ja laulujen sanoituksia, pelata pelejä, kuten ristinollaa, ja simuloida pankkiautomaattia.[4]

Verrattuna edeltäjäänsä, InstructGPT:hen, ChatGPT yrittää vähentää haitallisia ja petollisia vastauksia.[5] ChatGPT tunnustaa kysymyksen kontrafaktuaalisen luonteen ja muotoilee vastauksensa hypoteettiseksi pohdinnaksi.[6] Palvelun käyttö on rajoitettua seuraavissa maissa: Kiina, Venäjä[7], Valko-Venäjä, Afganistan, Venezuela, Iran, Ukraina.

Toisin kuin useimmat chatbotit, ChatGPT muistaa aiemmat kehotteet, jotka sille annettiin samassa keskustelussa. Toimittajat ovat ehdottaneet, että tämä voisi mahdollistaa ChatGPT:n käytön henkilökohtaisena terapeuttina.[1] Jotta estetään loukkaavien tulosteiden esittäminen ja tuottaminen ChatGPT:lle, kyselyt suodatetaan OpenAI:n koko yrityksen kattavan moderointisovellusliittymän läpi ja mahdollisesti rasistiset tai seksistiset kehotukset hylätään.[6]

ChatGPT kärsii useista rajoituksista. OpenAI myönsi, että ChatGPT ”kirjoittaa joskus uskottavalta kuulostavia, mutta vääriä tai järjettömiä vastauksia”.[6] Tämä käyttäytyminen on yleistä suurille kielimalleille, ja sitä kutsutaan hallusinoinniksi (engl. hallucination). ChatGPT:n palkitsemismalli, joka on suunniteltu ihmisen valvonnan ympärille, voidaan ylioptimoida ja siten heikentää suorituskykyä, mikä tunnetaan myös nimellä Goodhartin laki.

ChatGPT:llä on rajoitetusti tietoa vuoden 2021 jälkeen sattuneista tapahtumista. BBC:n mukaan ChatGPT ei saa joulukuusta 2022 alkaen ”ilmaista poliittisia mielipiteitä tai osallistua poliittiseen aktivismiin”.[8] Silti tutkimukset viittaavat siihen, että ChatGPT:llä on ympäristömyönteinen, vasemmistolibertaristinen näkökanta, kun sitä kehotetaan ottamaan kantaa kahden vakiintuneen äänestysneuvontasovelluksen poliittisiin lausuntoihin.[9][6] ChatGPT:n koulutuksessa arvioijat pitivät parempana pidempiä vastauksia todellisesta ymmärryksestä tai asiasisällöstä riippumatta. Harjoitusdata kärsii myös algoritmisesta harhasta, joka voi paljastua, kun ChatGPT vastaa kehotteisiin, mukaan lukien ihmisten kuvaukset. Yhdessä tapauksessa ChatGPT loi rapin, joka osoitti, että naiset ja värilliset tutkijat olivat huonompia kuin valkoiset ja miespuoliset tiedemiehet.[10]

Koulutus[muokkaa | muokkaa wikitekstiä]

ChatGPT rakennettiin GPT-3.5:n päälle.[11] Koulutuksessa käytettiin ihmiskouluttajia parantamaan mallin suorituskykyä. Ohjatun oppimisen esimerkissä malliin tarjottiin keskusteluja, joissa kouluttajat pelasivat esittivät sekä käyttäjää, että tekoälyassistenttia. Vahvistusvaiheessa ihmiskouluttajat arvioivat ensin vastaukset, jotka malli oli luonut edellisessä keskustelussa. Näitä sijoituksia käytettiin luomaan " palkitsemismalleja ", joilla mallia hienosäädettiin edelleen käyttämällä useita proksimaalisen politiikan optimoinnin (PPO) iteraatioita.[12]

Lisäksi OpenAI jatkaa tietojen keräämistä ChatGPT:n käyttäjiltä, ​​joita voidaan käyttää ChatGPT:n parantamiseen. Käyttäjät voivat arvioida ChatGPT:ltä saamansa vastaukset hyviksi tai huonoiksi.[13]

Ongelmat[muokkaa | muokkaa wikitekstiä]

ChatGPT on lisännyt tarvetta estää käyttäjiä eri palveluista, joihin tulee suuret määrät koneellisesti tuotettua materiaalia. Muun muassa Clarkesworld Magazine kertoo, että ongelmia aiheuttavat ydinyhteisön ulkopuolelta tulevat käyttäjät, jotka toivovat nopeasti rahastamista koneellisesti tuotetulla materiaalilla.[14] ChatGPT:n kaltaiset työkalut koulutetaan kirjoilla ja verkkosivustoilla, johon liittyy huoli plagiarismista sekä massoittain tuotetusta propagandasta.[14][15][16] Stack Overflow antoi porttikiellon ChatGPT:n käyttäjille koska vastaukset ovat usein virheellisiä vaikka näyttävät uskottavilta.[16]

Lähteet[muokkaa | muokkaa wikitekstiä]

  1. a b Roose, Kevin: The Brilliance and Weirdness of ChatGPT New York Times. 26.12.2022. Arkistoitu 28.11.2022. ”Like those tools, ChatGPT — which stands for "generative pre-trained transformer" — landed with a splash.” Viitattu 20.1.2023. (englanniksi)
  2. Quinn, Joanne: ”14.2.1. Steps”, Dive into deep learning: tools for engagement, s. 551. Arkisto, arkistoitu 10.1.2023. Kalifornia: Thousand Oaks, 2020. ISBN 9781544361376. Teoksen verkkoversio (viitattu 20.1.2023). (englanniksi)
  3. Vincent, James: AI-generated answers temporarily banned on coding Q&A site Stack Overflow The Verge. 5.12.2022. Arkistoitu 6.12.2022. Viitattu 20.1.2023. (englanniksi)
  4. Edwards, Benj: No Linux? No problem. Just get AI to hallucinate it for you Ars Technica. 5.11.2022. Arkistoitu 6.12.2022. Viitattu 20.1.2023. (englanniksi)
  5. Chawla, Raveen: What is ChatGPT? History, Features, Uses, Benefits, Drawbacks 2023 updatedgeek.com. 26.12.2022. Arkistoitu 7.1.2023. Viitattu 20.1.2022. (englanniksi)
  6. a b c d ChatGPT: Optimizing Language Models for Dialogue 30.11.2022. OpenAI. Arkistoitu 30.11.2022. Viitattu 20.11.2023. (englanniksi)
  7. Gpt Chat: Регистрация ChatGPT в России ChatGPT. 1.2.2023. Viitattu 17.2.2023. (venäjäksi)
  8. Whannel, Kate: Could a chatbot answer Prime Minister's Questions? BBC News. 30.11.2022. Arkistoitu 17.1.2023. Viitattu 20.1.2023. (englanniksi)
  9. Hartmann, Jochen; Schwenzow, Jasper; Witte, Maximilian: The political ideology of conversational AI: Converging evidence on ChatGPT's pro-environmental, left-libertarian orientation. arXiv, 2023. Tutkimus verkossa (PDF). Viitattu 20.1.2023. (englanniksi)
  10. Perrigo, Billy: AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits Time. 5.12.2022. Arkistoitu 7.12.2022. Viitattu 20.1.2023. (englanniksi)
  11. Samuel Greengard: ChatGPT: Understanding the ChatGPT AI Chatbot eWEEK. 29.12.2022. Viitattu 18.3.2023. (englanniksi)
  12. Introducing ChatGPT openai.com. Viitattu 18.3.2023. (englanniksi)
  13. ChatGPT[vanhentunut linkki]
  14. a b Benj Edwards: Sci-fi becomes real as renowned magazine closes submissions due to AI writers arstechnica.com. 21.2.2023. Viitattu 23.2.2023. (englanniksi)
  15. Olivia O'Neill: Using ChatGPT isn’t just plagiarism, it’s something much worse thegatewayonline.ca. Viitattu 23.2.2023. (englanniksi)
  16. a b Alex Hern: AI-assisted plagiarism? ChatGPT bot says it has an answer for that theguardian.com. 31.12.2022. Viitattu 23.2.2023. (englanniksi)

Aiheesta muualla[muokkaa | muokkaa wikitekstiä]