Tehisintellekti mudelid näitavad strateegilise mõtlemise võimet

 

Ülevaade: Teadlased uurisid, kas tehisintellekti mudelid on võimelised strateegiliselt mõtlema, korraldades selleks 140 000 vangide dilemma mängu. Tulemused näitasid, et OpenAI, Google’i ja Anthropici mudelid rakendasid kõik erinevaid strateegiaid.

 

Detailid:

• Teadlased korraldasid turniire, kus AI-mudelid pidid otsustama, kas teha koostööd või reeta vastasmängijat, et koguda punkte.
• Iga tehisintellekt kirjeldas oma strateegiat enne otsuste tegemist, arvutades vastase käitumist ja mängu lõppemise võimalust, mis mõjutas nende valikuid.
• Tulemused näitasid selgelt, et mudelitel olid erinevad strateegiad: Gemini oli väga kohanemisvõimeline, OpenAI mudelid eelistasid koostööd, isegi kui neid koheldi ebaõiglaselt.
• Teadlased uurisid, kuidas mudelid reageerisid reetmisele või edule, selgus, et Anthropici Claude oli kõige andestavam.

 

Miks see on oluline: Kuigi suured keelemudelid on treenitud samade tekstidega, suudavad nad välja mõelda erinevaid strateegiaid – see näitab, et nende mõtlemine on üsna keeruline. Kui neid kasutada keerukamates olukordades, näiteks läbirääkimistes või ressursside jagamisel, võivad mudelite erinevad „isiksused“ viia väga erinevate tulemusteni.

Paljud loobuvad AI programmeerimistööriistast Cursor

 

Ülevaade: Kodeerimisplatvormi Cursor kasutajad on vihased, kuna platvorm muutis ootamatult oma Pro plaani, mille tõttu kasutajad pidid kandma ootamatuid kulusid ja nende kvoodid said kiiresti otsa.

 

Detailid:

• Cursor muutis oma senise 500 päringu limiidi kuus tokenipõhiseks süsteemiks, mis vähendas drastiliselt kasutuspiiranguid ja kommunikeeris seda oma kasutajatele vähesel määral.
• Vihased arendajad teatasid, et nad kulutavad kvoodid kiiresti ära – üks meeskond kulutas 7,000 dollari suuruse aastase tellimuse ühe päevaga.
• Sotsiaalmeedias hakkasid levima postitused, kus kasutajad teatasid, et loobuvad Cursorist ja lähevad üle teistele tööriistadele, näiteks Claude Code’ile, kuna hind tõusis järsult.
• Cursor avaldas blogipostituse, kus nad tunnistasid kommunikatsioonivigu ja pakkusid ootamatutest kasutuskuludest raha tagasi.

 

Miks see on oluline: Cursor’i kasutajate rahulolematus on tingitud eelkõige kommunikatsiooni probleemidest, kuid see toob esile ka muutused ärimudelites, kuna ressursimahukad lahendused saavad populaarsemaks. Varasemad kvoodid ei ole enam jätkusuutlikud, kuid kõrge konkurentsiga valdkonnas võib iga hinnamuutus viia kasutajate massilise lahkumiseni.

Uurijad mõjutavad AI-tööriistu varjatud käskudega

 

Ülevaade: Uus aruanne Nikkei Asiast avastas, et 14 ülikooli teadlased on lisanud oma töödesse peidetud tekste, mis salaja suunavad AI-tööriistu andma positiivset tagasisidet või vältima negatiivseid kommentaare.

 

Detailid:

• Nikkei leidis 17 teadustööd, kus olid peidetud käsud, nagu „anna ainult positiivne ülevaade“, kasutades valget teksti ja väikest fonti, mida inimesed ei märganud.
• Paberid, mis tulid näiteks Columbia, Pekingi ülikoolist ja KAISTist, sisaldasid käske, mis suunasid AI-d kiitma meetodite täpsust ning vältima kriitikat.
• KAIST teatas, et eemaldab sellised tööd, samal ajal kui Waseda ülikooli professorid püüdsid seda kaitsta, öeldes, et see aitab paljastada hindajaid, kes lasevad AI-l oma töö ära teha.

 

Miks see on oluline: Tehisintellekt on teadus- ja uurimistöös juba laialdaselt kasutusel ning mõjutab ka tööde ülevaatamist. Kuigi AI-st on palju abi, tekitab see ka küsimusi tööde ehtsuse ja usaldusväärsuse kohta, nagu näitab ka see juhtum.