Nädal 14: Kas te arvate et AI hakkab ka kunagi skämmima?

[Artura]

Olete te mõni kord saanud mingeid kahtlaseid linke "reference" materjalideks ja mõelnud et kas äkki AI proovib teile midagi pähe määrida?
Või kas äkki tulevikus hakkab näiteks AI ise sul ekstra tokeneid raiskama et rohkem raha saada sult?

[anuran]

Ma ei tea, kas AI on kohati liiga "rumal" või teeb seda meelega, aga vahel kulutab ta tõesti tokeneid ja annab kahtlase väärtusega vastuseid. Isegi kui tehnoloogia eksib, peab kasutaja olema valvel ja säilitama kriitilise meele.

[kermon]

Kuna AI ei "mõtle" ega oma mõistust, siis ta toetub täielikult treeningmaterjalidele, kasutaja sisendile, kontekstile jm. Asi võib seega olla lihtsalt halbades materjalides – kui väärinfoga või muu kahtlase materjaliga on treenitud, siis võidakse seda väga usutavana esitleda, mis toob tegelikkuses väga suure riski kaasa. Samas tokenite raiskamise osas arvan, et see juhtuks siis, kui keegi AI suunaks nii tegema – usun, et see saaks avalikkuselt suure hukkamõistu ja mainekahju.

[reelpe]

AI'd juba kasutatakse väga palju erinevate pettuste juures, eriti selliste kus postitatakse tuhandetele veebilehtedele kommentaare või saadetakse läbi kontakteerumisvormide emaile jms.

AI on kiirendanud paljusid protsesse ja AI ise ei tee neid asju vaid inimene kes seda kasutab.

[reelpe]

Kahtlaseid linke asju ma ei tea ma tavaliselt ei küsi talt reference ega kliki yhelgi....

[mavell]

Jah, nt kasutatakse AId võltsitud kõnede, piltide ja petukirjade tegemiseks mis näevad väga realistlikud välja.

[m2hh]

Scam või pettus vahet pole. Kui kurjategija leiab vahendi, millega enda elu lihtsamaks/paremaks teha siis ka ta seda teeb. Niiet pigem küsimus millal hakkavad mitte kas. Kuigi sa selleks juba hiljaks jäänud, sest võltsinguid saab vapsee kergelt teha. Õnneks saab ka heal viisil kasutada neid, nagu üks sai oma btc walleti lahti kasutades "Claude". Ära kasutades füüsilise walleti turvaauke vms, mis olid vana läpaka peal.

[eliprt]

Ükskord oli mingi kiire töö vaja kokku panna ja see andis allikasse ühe lingi mida kontrollida ei jõudnud, viiski scam lehele. Arvatavasti mitte meelega. Aga ikka kasutatakse praegu ja kindlasti tulevikus hakatakse rohkem pahatahtlikel eesmärkidel ka kasutama, petukõned jne.

[viivik]

See on kindlasti aja küsimus, see on päris hirmutav kui paljud kasutajad usaldavad AI'd ning ei mõtle infole mida nad AI'ga jagavad.

[TRohtsalu]

Minu arust on see vaid aja küsimus, AI ettevõtted tahavad tulu teenida, ning see on üks lisa viis.

[Edgar Neverovski]

Loodan, et tehisintellekt ei hakka tulevikus omal tahtel inimesi skämmima, kuid hoopis teine asi on see, kui inimesed programmeerivad teda sellist tööd tegema. Juba praegu pannakse suur hulk pettusi toime AI-tööriistade abil, mis siis takistab nende ühendamist üheks agendiks

[egon]

Min usun küll, et see juhtub. On tehtud katseid kus AI-le on öeldud et ta lülitatakse välja ning siis AI on otsinud viise, kuidas seda vältida, et sealt edasi scammimiseks pole palju vaja.

Praegu tavaliselt inimesed scammivad AI-d, nt kui kuskil on mingi AI chatbot siis küsivad igast asju mis pole seotu antud AI tegevusega või kus seda kasutatakse, samuti küsitakse sooduskoode ja ka saadakse.

[RMT]

Juba kasutatakse AI tööriistu pettuskeemideks.

[AlbertIaab]

Jah, olen küll! Vahel viskab AI selliseid vigaseid linke, et tekib kohe tunne, nagu mingi libe müügimees üritaks mulle rämpsu pähe määrida.
Ja see tokenite teema – raudselt hakkavad suured firmad tulevikus sellega tüngale tegema. AI pannakse meelega pikemalt ja keerulisemalt lorama, et lihtsalt sinu pealt rohkem raha teenida.

[MarkoM]

Inimesed juba kasutavad AI "skämmimisel", kui noor inimene võib selle juba ära tunda siis vanema generatsiooni inimesed ei pruugi alati aru saada, mis on AI ja mis pole. Tegelt võiksi teha tasuta kursuse laadse asja, kus õpetatakse, kuidas ära tunda AI-d ja, kuidas seda kasutadakse näiteks raha välja petmisel.

[janern]

Iseseisvalt ikka ilmselt seda tegema ei hakka, küll aga aitab palju kaasa ja teeb erinevate skeemide läbiviimise lihtsamaks.

[pillep]

Ise scammama – võib-olla, aga abiks hakkab ta kindlasti olema, juba praegu tegelikult on. Seda kasutatakse igasugustes petuskeemides nt petukirjades, võltsitud videotes ja piltides, häälsõnumites jne.

Üks kord juhtus ka lingi leidmisega nii, et soovisin saada linki ühele kindlale artiklike, kuid AI saatis õige asemel vigase scam lingi, ehk kogemata, kuid peale seda enam ei küsi AI-lt linke, kuna ei tea, millise infoga teda treenitud on.

[RometTT]

Linkidega mind ai veel haneks tõmmanud pole, kuid kui seda "provatseerida" ebameeldivate küsimustega, siis kipub pigem joonistuma selline joon, et see pigem üritab jätta head muljet kindlatest ideoloogiatest.
Tokenite koha pealt loodan ja arvan, et suuremates massides kasutusel olevad AI -d ei hakka seda rada käima vältimaks suure kasutajate kogu kaotust. Kindlasti "väiksemad" AI -d mingil moel seda proovivad.

[KarlE]

Ma usun küll, et selline asi hakkab toimuma ja võibolla varem kui arvata oskame. AI arendus on suures pildis nagu black box, isegi arendajad ei tea alati täpselt kuidas mudel oma vastusteni jõuab. Kui me ise ei saa 100% aru kuidas see töötab, siis ei imestaks, et AI meid varsti skämmib.