Dirbtinis intelektas – ChatGPT ir kiti LLM modeliai

[Edd]

Sakai gali namus sudeginti? Nebent jei kas bandys pasistatyti namą su generatyvinio intelekto sugeneruotu projektu.

Čia kiekvienas sugalvoja scenarijų pagal savo vaizduotę ir technologijų išmanymą bet faktas tas kad su AI labai daug kas blogo gali atsitikti ir nebūtinai turi kažkas sudegti fiziškai. Šiais laikais labai daug dalykų vyksta per internetą (beje, jei jau toks pavyzdys, tai net ir fiziškai ne vieną jau stovintį namą Pasaulyje taip pat šiuo metu galima sudeginti per internetą).

[sankauskas]

Turėjau omeny paskutinius du sakinius kurie tolokai nuo "taip ir yra" t.y.: "Manau kad AI yra tiek pat pavojingas kaip traktorius. Gal mažiau žmonijos raidai įtakos turės nei traktorius, bet pavojų kelia nemažesnį."

Asmeniškai man šiandieninė situacija su AI šiek tiek primena 2-jų metukų vaiko žaidimą su degtukais.

Arba su traktoriumi....

[Edd]

Tiesa.

[mantasm]

Čia kiekvienas sugalvoja scenarijų pagal savo vaizduotę ir technologijų išmanymą bet faktas tas kad su AI labai daug kas blogo gali atsitikti ir nebūtinai turi kažkas sudegti fiziškai. Šiais laikais labai daug dalykų vyksta per internetą (beje, jei jau toks pavyzdys, tai net ir fiziškai ne vieną jau stovintį namą Pasaulyje taip pat šiuo metu galima sudeginti per internetą).

Blogumas tame, kad galima generuoti ganėtinai kokybišką spamą ir melagienas. Vietoj 10 žmonių diskusijos internete tai gali lengvai pavirsti į 999 botų ir tų pačių 10 žmonių diskusiją. Bet iš esmės tas pats vyksta su trolių fermom. Ir lygtais kažkaip atsiremiama.

Dabartinio lygio generatyvinis intelektas nepradės savavališkai nulaužinėt namų automatizacijų ir nuvarinėt teslų internetu.

[Edd]

Blogumas tame, kad galima generuoti ganėtinai kokybišką spamą ir melagienas. Vietoj 10 žmonių diskusijos internete tai gali lengvai pavirsti į 999 botų ir tų pačių 10 žmonių diskusiją. Bet iš esmės tas pats vyksta su trolių fermom. Ir lygtais kažkaip atsiremiama.

Dabartinio lygio generatyvinis intelektas nepradės savavališkai nulaužinėt namų automatizacijų ir nuvarinėt teslų internetu.

Botai, spamas - čia tik keli pavyzdžiai, galima dar paminėti kaip pavyzdį tarkim kad jis buvo naudojamas malwaro generavimui ir tai tik dabartinis ChatGPT, ir kuris turi daug saugumo apribojimų. Čia tik pradžia.

[mantasm]

Botai, spamas - čia tik keli pavyzdžiai, galima dar paminėti kaip pavyzdį tarkim kad jis buvo naudojamas malwaro generavimui ir tai tik dabartinis ChatGPT, ir kuris turi daug saugumo apribojimų. Čia tik pradžia.

Pataisyk jei klystu, bet pats generatyvinis intelektas malwaro negeneravo. Buvo naudojamas tik kaip botas spaminti nuorodas soc tinkluose. Ta pati socialinė inžinerija.

[Edd]

Pataisyk jei klystu, bet pats generatyvinis intelektas malwaro negeneravo. Buvo naudojamas tik kaip botas spaminti nuorodas soc tinkluose. Ta pati socialinė inžinerija.

ChatGPT generuoja kodą ir buvo naudojamas malwaro, exploitų kodo generavimui, pagooglinęs randu kad yra įvesti apribojimai bet bent anksčiau buvo apėjimai kaip tiesiai prašyti būtent exploito kodo (nežinau ar tai tiesa). Aišku tą ChatGPT kodą dar reikia peržiūrėti/pataisyti/pritaikyti savo kode/sukompiliuoti/įvykdyti ir pan., bet tas pats ir su botais, pats ChatGPT tiesiogiai negali būti botu.

[suoliuojantis]

ChatGPT generuoja kodą ir buvo naudojamas malwaro, exploitų kodo generavimui, pagooglinęs randu kad yra įvesti apribojimai bet bent anksčiau buvo apėjimai kaip tiesiai prašyti būtent exploito kodo (nežinau ar tai tiesa). Aišku tą ChatGPT kodą dar reikia peržiūrėti/pataisyti/pritaikyti savo kode/sukompiliuoti/įvykdyti ir pan., bet tas pats ir su botais, pats ChatGPT tiesiogiai negali būti botu.

Mhm, bet kad dabartinis AI sugebėtų sugeneruoti originalų naujo tipo malwarą stipriai abejoju. Viską ką jis daro rašydamas kodą - suranda panašius pavyzdžius savo milžiniškoje pavyzdžių bazėje ir pagal juos generuoja kodą. Visos antivirusinės panašius "štamus" kaip taisyklė puikiai sudoroja. Pavojingiausios atakos iki šiol būdavo kai kas nors sugalvodavo naują atakos tipą kuris kitiems nebuvo dašilęs. Be to pagal algoritmo idėją pats ChatGPT turėtų puikiai atpažinti savo paties "kūrinius"

[OpenStreetMap]

Kokia tema mokslinio darbo?

Kartografija. Pagrindus chatgpt surašo gerai, net kodą parašo. Bet tik nueini į ką sudėtingesnio (verto mokslinio darbo) - ate.

[Taj Mahal]

Kartografija. Pagrindus chatgpt surašo gerai, net kodą parašo. Bet tik nueini į ką sudėtingesnio (verto mokslinio darbo) - ate.

Tas mokslinis darbas BSc, MSc ar PhD?
Žinau kas BSc padarė su GPT4 ir gavo aukščiausią įvertinimą. Tokiems dalykams GPT4 nepalyginamai geresnis nei GPT3,5 (ChatGPT). GPT4 ir šaltinius suieško.


P.S. Tiems kas GPT naudoja per API, GPT4 kainuoja 15x – 60x brangiau nei GPT3,5 (ChatGPT).

[mantasm]

ChatGPT generuoja kodą ir buvo naudojamas malwaro, exploitų kodo generavimui, pagooglinęs randu kad yra įvesti apribojimai bet bent anksčiau buvo apėjimai kaip tiesiai prašyti būtent exploito kodo (nežinau ar tai tiesa). Aišku tą ChatGPT kodą dar reikia peržiūrėti/pataisyti/pritaikyti savo kode/sukompiliuoti/įvykdyti ir pan., bet tas pats ir su botais, pats ChatGPT tiesiogiai negali būti botu.

Pats ChatGPT neieško naujų spragų. Ima internetuose esančius kodo pavyzdžius ir tiek.

Pats ChatGPT rašyti forumiuke negali. Bet suintegravus su forumiuko API gali. Pats maigyti kitų rašyto softulio ieškodamas naujų klaidų negali. O API tam nėra.

[Taj Mahal]

Pats ChatGPT rašyti forumiuke negali. Bet suintegravus su forumiuko API gali.

Net nereikia forumiuko API.
Yra naršyklės plugin'ų, kurie leidžia komentarus rašyti su ChatGPT. Nereikia net prisijungti prie ChatGPT. Tiesiai komentaro laukelyje rašai instrukcijas skirtas ChatGPT. Paspaudus "Enter" tas instrukcijas pakeičia ChatGPT sugeneruotu tekstu.

Šitame 1 minutės filmuke yra vienas toks pavyzdys:

Embedded Tweet

[mantasm]

Yra naršyklės plugin'ų, kurie leidžia komentarus rašyti su ChatGPT. Nereikia net prisijungti prie ChatGPT. Tiesiai komentaro laukelyje rašai instrukcijas ChatGPT ir paspaudus "Enter" tas instrukcijas pakeičia ChatGPT sugeneruotu tekstu.

Na tai tiek pluginai ir yra API per kurį ChatGPT gali rašyti forumiuke.

[OpenStreetMap]

Žinau kas BSc padarė su GPT4 ir gavo aukščiausią įvertinimą.

Kokia tema? Koks darbo tipas (situacijos aprašymas, šaltinių/literatūros analizė ar inovacijos, naujų dalykų siūlymas?

Tokiems dalykams GPT4 nepalyginamai geresnis nei GPT3,5 (ChatGPT). GPT4 ir šaltinius suieško.

Ačiū. Įdomu. Kur tą GPT4 galima be kryžiaus kelių pabandyti?

Mano žiniomis, language modelis ontologijos sau nesusidėlioja. Jis apmokytas generuoti žodžių seką, skaičiuoja koks žodis po kokių turi eiti. Jo lossfunction - skaitovo pasitenkinimas, o ne tiesa, todėl ir rezultatai tokie (atrodo geri, kol neįsigilini; kaip koks Wilde'as). Ar GPT4 kažkaip principialiai kitaip veikia?

Kitas klausimas: kas yra apmokymo pradinė medžiaga ir koks atrinkimo tiesos kriterijus? Nesu didelis chatgpt naudotojas, tai dar nesu matęs atsakymo „there are several schools of thought...”.

[Taj Mahal]

Kokia tema? Koks darbo tipas (situacijos aprašymas, šaltinių/literatūros analizė ar inovacijos, naujų dalykų siūlymas?

Baigiamasis bakalaurinis darbas ekonomikoje. Analizavo vieną tikrą įvykį.

[Taj Mahal]

Ačiū. Įdomu. Kur tą GPT4 galima be kryžiaus kelių pabandyti?

Mano žiniomis, language modelis ontologijos sau nesusidėlioja. Jis apmokytas generuoti žodžių seką, skaičiuoja koks žodis po kokių turi eiti. Jo lossfunction - skaitovo pasitenkinimas, o ne tiesa, todėl ir rezultatai tokie (atrodo geri, kol neįsigilini; kaip koks Wilde'as). Ar GPT4 kažkaip principialiai kitaip veikia?

Kitas klausimas: kas yra apmokymo pradinė medžiaga ir koks atrinkimo tiesos kriterijus? Nesu didelis chatgpt naudotojas, tai dar nesu matęs atsakymo „there are several schools of thought...”.

1. GPT4 galima rasti pas https://chat.openai.com/
Kainuoja 20 pinigų per mėnesį.

2. Veikia taip pat, tik tiksliau.

3. Promt rašymas yra labai svarbus norint gero atsakymo.

[Arunasx]

Sakai gali namus sudeginti? Nebent jei kas bandys pasistatyti namą su generatyvinio intelekto sugeneruotu projektu.

Skaičiau apie vieną crazy įdėją sumodeliuoti optimaliausią žmonijos sunaikinimo variantą.

[mantasm]

Skaičiau apie vieną crazy įdėją sumodeliuoti optimaliausią žmonijos sunaikinimo variantą.

Jau senai yra primodeliuota pačių žmonių.

[Taj Mahal]

Midjourney (stable diffusion) mano nuomone irgi technologija iš fantazijų srities.
Jau tik laiko klausimas kada DI (AI), o ne žmonės, kurs iliustracijas, nuotraukas, animacijas ir video.

Jau šiandien DI (AI) sugeba pagal duotą tekstinį aprašymą sugeneruoti tokią kokybę:

Tekstai pagal kuriuos sugeneruotos šios nuotraukos:

1. A captivating image capturing the intimate moment of a mighty lion quenching its thirst, its powerful frame tensed as it cautiously lowers its head to the shimmering water, the reflection of the golden sunlight on its tawny mane creating a halo-like effect, the ripples in the water spreading outwards with each graceful lap of its tongue, and the watchful eyes of the surrounding wildlife, alert to the presence of the king of the savannah, Nikon D850, AF-S NIKKOR 200-500mm f/5.6E ED VR, early morning with soft light filtering through the trees, wildlife and nature photography, Fujifilm Provia 100F (foto)
2. little mouse prince, looking hella regal, charming cinematic (foto)
3. Portrait of beautiful japanese female supermodel with black hair Wearing a futuristic white poncho with black dots everywhere, distressed style, designed by Nike and Tom Sachs, Settings: professional color grading (foto)

[sankauskas]

Baigiamasis bakalaurinis darbas ekonomikoje. Analizavo vieną tikrą įvykį.

Jei bus kaimo kolegijoje, kur du magistrantai perskaito 50 bakalaurinių, tai visai tikiu. Jei normaliasniame universitete, tai be šansų.