Dirbtinis intelektas arba Artificial Intelligence

[suoliuojantis]

ChatGPT generuoja kodą ir buvo naudojamas malwaro, exploitų kodo generavimui, pagooglinęs randu kad yra įvesti apribojimai bet bent anksčiau buvo apėjimai kaip tiesiai prašyti būtent exploito kodo (nežinau ar tai tiesa). Aišku tą ChatGPT kodą dar reikia peržiūrėti/pataisyti/pritaikyti savo kode/sukompiliuoti/įvykdyti ir pan., bet tas pats ir su botais, pats ChatGPT tiesiogiai negali būti botu.

Mhm, bet kad dabartinis AI sugebėtų sugeneruoti originalų naujo tipo malwarą stipriai abejoju. Viską ką jis daro rašydamas kodą - suranda panašius pavyzdžius savo milžiniškoje pavyzdžių bazėje ir pagal juos generuoja kodą. Visos antivirusinės panašius "štamus" kaip taisyklė puikiai sudoroja. Pavojingiausios atakos iki šiol būdavo kai kas nors sugalvodavo naują atakos tipą kuris kitiems nebuvo dašilęs. Be to pagal algoritmo idėją pats ChatGPT turėtų puikiai atpažinti savo paties "kūrinius"

[Edd]

Pataisyk jei klystu, bet pats generatyvinis intelektas malwaro negeneravo. Buvo naudojamas tik kaip botas spaminti nuorodas soc tinkluose. Ta pati socialinė inžinerija.

ChatGPT generuoja kodą ir buvo naudojamas malwaro, exploitų kodo generavimui, pagooglinęs randu kad yra įvesti apribojimai bet bent anksčiau buvo apėjimai kaip tiesiai prašyti būtent exploito kodo (nežinau ar tai tiesa). Aišku tą ChatGPT kodą dar reikia peržiūrėti/pataisyti/pritaikyti savo kode/sukompiliuoti/įvykdyti ir pan., bet tas pats ir su botais, pats ChatGPT tiesiogiai negali būti botu.

[mantasm]

Botai, spamas - čia tik keli pavyzdžiai, galima dar paminėti kaip pavyzdį tarkim kad jis buvo naudojamas malwaro generavimui ir tai tik dabartinis ChatGPT, ir kuris turi daug saugumo apribojimų. Čia tik pradžia.

Pataisyk jei klystu, bet pats generatyvinis intelektas malwaro negeneravo. Buvo naudojamas tik kaip botas spaminti nuorodas soc tinkluose. Ta pati socialinė inžinerija.

[Edd]

Blogumas tame, kad galima generuoti ganėtinai kokybišką spamą ir melagienas. Vietoj 10 žmonių diskusijos internete tai gali lengvai pavirsti į 999 botų ir tų pačių 10 žmonių diskusiją. Bet iš esmės tas pats vyksta su trolių fermom. Ir lygtais kažkaip atsiremiama.

Dabartinio lygio generatyvinis intelektas nepradės savavališkai nulaužinėt namų automatizacijų ir nuvarinėt teslų internetu.

Botai, spamas - čia tik keli pavyzdžiai, galima dar paminėti kaip pavyzdį tarkim kad jis buvo naudojamas malwaro generavimui ir tai tik dabartinis ChatGPT, ir kuris turi daug saugumo apribojimų. Čia tik pradžia.

[mantasm]

Čia kiekvienas sugalvoja scenarijų pagal savo vaizduotę ir technologijų išmanymą bet faktas tas kad su AI labai daug kas blogo gali atsitikti ir nebūtinai turi kažkas sudegti fiziškai. Šiais laikais labai daug dalykų vyksta per internetą (beje, jei jau toks pavyzdys, tai net ir fiziškai ne vieną jau stovintį namą Pasaulyje taip pat šiuo metu galima sudeginti per internetą).

Blogumas tame, kad galima generuoti ganėtinai kokybišką spamą ir melagienas. Vietoj 10 žmonių diskusijos internete tai gali lengvai pavirsti į 999 botų ir tų pačių 10 žmonių diskusiją. Bet iš esmės tas pats vyksta su trolių fermom. Ir lygtais kažkaip atsiremiama.

Dabartinio lygio generatyvinis intelektas nepradės savavališkai nulaužinėt namų automatizacijų ir nuvarinėt teslų internetu.

[Edd]

Tiesa.

[sankauskas]

Turėjau omeny paskutinius du sakinius kurie tolokai nuo "taip ir yra" t.y.: "Manau kad AI yra tiek pat pavojingas kaip traktorius. Gal mažiau žmonijos raidai įtakos turės nei traktorius, bet pavojų kelia nemažesnį."

Asmeniškai man šiandieninė situacija su AI šiek tiek primena 2-jų metukų vaiko žaidimą su degtukais.

Arba su traktoriumi....

[Edd]

Sakai gali namus sudeginti? Nebent jei kas bandys pasistatyti namą su generatyvinio intelekto sugeneruotu projektu.

Čia kiekvienas sugalvoja scenarijų pagal savo vaizduotę ir technologijų išmanymą bet faktas tas kad su AI labai daug kas blogo gali atsitikti ir nebūtinai turi kažkas sudegti fiziškai. Šiais laikais labai daug dalykų vyksta per internetą (beje, jei jau toks pavyzdys, tai net ir fiziškai ne vieną jau stovintį namą Pasaulyje taip pat šiuo metu galima sudeginti per internetą).

[mantasm]

Turėjau omeny paskutinius du sakinius kurie tolokai nuo "taip ir yra" t.y.: "Manau kad AI yra tiek pat pavojingas kaip traktorius. Gal mažiau žmonijos raidai įtakos turės nei traktorius, bet pavojų kelia nemažesnį."

Asmeniškai man šiandieninė situacija su AI šiek tiek primena 2-jų metukų vaiko žaidimą su degtukais.

Sakai gali namus sudeginti? Nebent jei kas bandys pasistatyti namą su generatyvinio intelekto sugeneruotu projektu.

[Edd]

Bet taip ir yra. Traktoriaus dėka vienas žmogus gali padaryti 100 žmonių darbą. Generatyvinių intelektų dėka irgi vienas žmogus gali padaryti n+k žmonių darbą. Kaip ir aną kartą, klausimas kokia nauja industrijos rūšis surinks nukanalizuotą darbo jėgą. Arba koks socialinis pokytis. Teko skaityti įdomią nuomonę, kad 19a galo imperializmas iš dalies buvo dėl pramoninės revoliucijos nebereikalingų žmonių nukanalizavimas.

Turėjau omeny paskutinius du sakinius kurie tolokai nuo "taip ir yra" t.y.: "Manau kad AI yra tiek pat pavojingas kaip traktorius. Gal mažiau žmonijos raidai įtakos turės nei traktorius, bet pavojų kelia nemažesnį."

Asmeniškai man šiandieninė situacija su AI šiek tiek primena 2-jų metukų vaiko žaidimą su degtukais.

[gerietis]

Rašau mokslinį darbą. Pajudinau ir ChatGPT. Panaudoti negalima, nes surašo citatų koliažą pats nežino iš kur. Ten, kur nežino atsakymo, tiesiog prikuria nesąmonių. Kuo mažiau žinoma tema, tuo didesnės nesąmonės. Taigi technologija tikrai įdomi, bet iki standartinės paieškos dar toli. Gali tik sumalti iš esamų atsakymų savo versiją, negali sukurti naujo atsakymo.

Gal kažkokios specifikos ir nežino, tokiu atveju ir nusikalba arba šneka bendrom frazėm. Bet jei pats žinai temą, pataisai, patikslini ir ChatGPT atsistoja į vėžes. Pabandžiau panaudoti darbui: "Aprašyk sliekų ieškojimo subinėje procedūros testavimo programą" [pavadinimas sąlyginis] - tvarkingai aprašė kokia 20 punktų, visi į prasmingo ir teisingi.

[mantasm]

Kažkaip panašiai ir įsivaizdavau ką traktoristai mąsto apie AI.

Bet taip ir yra. Traktoriaus dėka vienas žmogus gali padaryti 100 žmonių darbą. Generatyvinių intelektų dėka irgi vienas žmogus gali padaryti n+k žmonių darbą. Kaip ir aną kartą, klausimas kokia nauja industrijos rūšis surinks nukanalizuotą darbo jėgą. Arba koks socialinis pokytis. Teko skaityti įdomią nuomonę, kad 19a galo imperializmas iš dalies buvo dėl pramoninės revoliucijos nebereikalingų žmonių nukanalizavimas.

[Edd]

Na aš tai galvoju - visas šitas AI, kuris atlieka sudėtingas kalkuliacijas, sprendžia uždavinius 1000 kartų greičiau nei žmogus, tikrai įspūdinga. Kartais atrodo, gal tikrai žmogus neturi šansų prieš dirbtinį intelektą.

Bet kai pagalvoji - prieš traktorių irgi žmogus neturi šansų, jei reiktų pasigalynėti, kuris kurį nustums (arba daugiau žemės apars). Manau kad AI yra tiek pat pavojingas kaip traktorius. Gal mažiau žmonijos raidai įtakos turės nei traktorius, bet pavojų kelia nemažesnį.

Kažkaip panašiai ir įsivaizdavau ką traktoristai mąsto apie AI.

[sankauskas]

Rašau mokslinį darbą. Pajudinau ir ChatGPT. Panaudoti negalima, nes surašo citatų koliažą pats nežino iš kur. Ten, kur nežino atsakymo, tiesiog prikuria nesąmonių. Kuo mažiau žinoma tema, tuo didesnės nesąmonės. Taigi technologija tikrai įdomi, bet iki standartinės paieškos dar toli. Gali tik sumalti iš esamų atsakymų savo versiją, negali sukurti naujo atsakymo.

Kokia tema mokslinio darbo?

[OpenStreetMap]

Rašau mokslinį darbą. Pajudinau ir ChatGPT. Panaudoti negalima, nes surašo citatų koliažą pats nežino iš kur. Ten, kur nežino atsakymo, tiesiog prikuria nesąmonių. Kuo mažiau žinoma tema, tuo didesnės nesąmonės. Taigi technologija tikrai įdomi, bet iki standartinės paieškos dar toli. Gali tik sumalti iš esamų atsakymų savo versiją, negali sukurti naujo atsakymo.

[sankauskas]

Na aš tai galvoju - visas šitas AI, kuris atlieka sudėtingas kalkuliacijas, sprendžia uždavinius 1000 kartų greičiau nei žmogus, tikrai įspūdinga. Kartais atrodo, gal tikrai žmogus neturi šansų prieš dirbtinį intelektą.

Bet kai pagalvoji - prieš traktorių irgi žmogus neturi šansų, jei reiktų pasigalynėti, kuris kurį nustums (arba daugiau žemės apars). Manau kad AI yra tiek pat pavojingas kaip traktorius. Gal mažiau žmonijos raidai įtakos turės nei traktorius, bet pavojų kelia nemažesnį.

[cozzamarra]

Ir aš nenuvertinu paskutinių metų proveržio DI srityje, bet pastarojo mėnesio šišas dėl ChatGPT didžiaja dalimi tėra sėminga reklaminė kampanija, skirta tą patį ChatGPT pamaitinti dideliu kiekiu naujos medžiagos (bus susieta su pasinaudojusių profiliavimo duomenimis (taip pat ir shaddow profile) ir pan.).

[Creatium]

https://writings.stephenwolfram.com/...-does-it-work/

Viršuje kol kas geriausias ir išsamiausias paaiškinimas kaip veikia dideli kalbos modeliai. TL;DR - tai tiesiog labai galingas ir sudėtingas kalkuliatorius, kuris neturi nė menkiausios nuovokos ar kažkokio pasaulio modelio. Puikus priešnuodis antraštėse šiuo metu matomoms hiperbolėms apie mus tuoj sunaikinsianti artificial general intelligence kurias stumia visokie suinteresuoti gudrūs šarlatanai (Elon Musk, Eliezer Yudkowsky ir dar daugybė kitų).

Kur įrodymas, kad žmogaus sąmonė nėra kažkoks labai "galingas ir sudėtingas kalkuliatorius", kuris kaip ir kalbos modeliai, tiesiog parinkinėja labiausiai tikėtinus žodžius pagal mūsų turimą kontekstą?

[Taj Mahal]

Twitteryje neseniai labai plito istorija kaip programuoti nemokantis žmogus per tris savaites sukūrė mokamą aplikaciją, prisirinko "pre-orders" ir tą aplikaciją pardavė kitai įmonei. Programavimą atlikinėjo OpenAI GPT4.

[Taj Mahal]

sankauskas, pažiūrėk šitą. Iškirpau tau dalį iš ilgesnio YouTube filmuko.
Steve Jobs gauna klausimą ir AI momentaliai padaro atsakymą, jį įgarsina ir prideda video.
Ir skamba 1:1 kaip Steve Jobs. Tiek balsas, tiek turinys.
Ir čia esam pačioje pradžioje dar.