Vaše tvorba pomocí AI

Napsal TomášX;1661131

neschopnost ozdrojovat informace je za mě jeden z největších problémů těhle jazykových modelů. Oni totiž ani vývojáři přesně neví, odkud se daná informace poskládala, nelze ani snadno ověřit, že daný model nebyl záměrně cinknutý pro některé typy vstupu. Vlastně mě překvapuje jaké se tomu dává důvěra, je to zatím pouze jen hračka, ale hodně společností vidí vizi, že na tom vystřískají hodně peněz, protože jak je vidět i tady, je o to zájem a zájem plotí ochotu za to utrácet peníze.

Jo ...a když jsme u toho, do jaké míry se dá vůbec spolehnout, že to, co generuje, je opravdu originální? Že to např. z nějaké části neposkládá z jiných zdrojů (myslím tím třeba i slovo od slova, eventuálně jenom přepíše info jinými slovy)? Lze se spolehnout, že se v žádném případě nedopouští plagiátorství?

Napsal altman.lukas;1661132

Jo ...a když jsme u toho, do jaké míry se dá vůbec spolehnout, že to, co generuje, je opravdu originální? Že to např. z nějaké části neposkládá z jiných zdrojů (myslím tím třeba i slovo od slova, eventuálně jenom přepíše info jinými slovy)? Lze se spolehnout, že se v žádném případě nedopouští plagiátorství?

nejde, ale na textu delsim nez par vet je sance ze by vsechno duplikoval slovo od slova dost nizka. Utrzky nicmene muzou byt presnou kopii trenovacich dat, to uz je i prokazane a trpi tim prakticky kazda neuronova sit co generuje obsah a ani si nejsem moc jisty, jestli to pujde kompletne prekonat. I proto kdyz neco nechavam tu sit psat tak se snazim to sam napsat co nejvic podrobne, aby jen iterovala lepsim jazykem me samotneho. V podstate podrobnejsi seznam bodu mi funguje docela obstojne.

Jak psal Aleš, jazykové AI se dopouští plagiátorství poměrně běžně, nelze se spolehnout, co je unikátní a co je naopak doslova kopie zdroje. Github Copilot byl takhle nachytaný, že doslova 1:1 nabízel implementace konkrétních kryptografických algoritmů, stejně to s kódem dělá i ChatGPT. U textu to je v bledě modrém. Midjourney třeba umí vygenerovat obrázek, které je nerozeznání od uměleckého díla, těžko by to bez znalosti toho díla mohl vygenerovat, takže se očividně inspiruje více než hodně.Tyhle AI služby porušují duševní vlastnictví, to mi nejen zakazuje produkovat kopii výstupu, ale i používat k vnitřím potřebám (je to stejné jako když si firma zkopíruje učebnici a z ní se učí zaměstnanci). Tohle bude ještě zajímavá diskuze a bude nějakou dobu trvat než se to ustálí.Je otázka času než se najdou texty z ChatGPT, které budou doslovnou kopií zdroje a budou jednoznačně porušovat duševní vlastnictví. Pokud takový text je součástí dat k trénování, může být součástí výstupu.

Napsal TomášX;1661131

neschopnost ozdrojovat informace je za mě jeden z největších problémů těhle jazykových modelů. Oni totiž ani vývojáři přesně neví, odkud se daná informace poskládala, nelze ani snadno ověřit, že daný model nebyl záměrně cinknutý pro některé typy vstupu. Vlastně mě překvapuje jaké se tomu dává důvěra, je to zatím pouze jen hračka, ale hodně společností vidí vizi, že na tom vystřískají hodně peněz, protože jak je vidět i tady, je o to zájem a zájem plotí ochotu za to utrácet peníze.

zdrojovani informaci uz je venku https://www.youtube.com/watch?v=Fjh1kwOzr7c  bude to jen lepsi :) a rychleji nez jsme cekali... 

Napsal Aleš Jiříček;1661196

zdrojovani informaci uz je venku https://www.youtube.com/watch?v=Fjh1kwOzr7c  bude to jen lepsi :) a rychleji nez jsme cekali... 

zdroje tam jsou jen když to ty informace vyhledává přímo na webu, věci, které ti ale napíše neumí zdůvodnit, nebo se špatně koukám?Pořád to ale vypadá jako velice užitečný asistent a ne nic, co by nás nahradilo. Mně se tyhle nástroje líbí, dá to možnost efektivněji pracovat i lidem, kteří nedokáží roky studovat související obory jen, aby třeba dokázali zpracovávat data.

je to tak, ale postupne bych rekl ze to to zdrojovani a dalsi veci proste bude umet, vsechon je to v plenkach, takze se tyhle veci samozrejme budou vychytavat... Je dobre ze se o tech problemech mluvi, ale na druhou stranu vsechny vidim jako docasny :)) 

GPT neuronka je založena na unsupervised learning, to je jak s dítětem, sice se naučí hodně věcí, ale pak netuší odkud je umí a proč, na tomhle modelu se přímo pracuje 10 let, nemluvě o desítkách let výzkumu před tím. Ty data se mu pospojují a vytvoří určitou znalostní bázi a z ní už nemůžeš zdrojovat nic zpětně, velice složitě lze tohle i při trénování řídit. Proti jiným na to šli masivní výpočetní silou, 10 000 GPU hodin pro základní trénování GPT-3 je něco, co si jen tak nikdo dovolit ještě nedávno nemohl. GPT-2 třeba používá George od ČS, což je už 3 roky starý projekt a prostě to natrénovat není pro každého. Na těhle věcech se pracuje dlouho a teď se to posunulo kvůli velké marketingové kampani, wau efektu a otevření veřejnosti.Těžko nám tady rychle vznikne nová neuronka, která bude umět zdrojovat. Osobně odhaduji, že evoluce půjde přesně cestou, jaká je představena ve videu, bude se to vrstvit. GPT se oseká o fakta jak to jen jde a pro přesné odpovědi se tomu budou dávat znovu texty a obsah k prostudování, z něho pak může vypadnout něco, co už má zdroje, strukturu a určitou oponentůru. Např. v případě složení právních zkoušek v USA to dopadlo přesně takhle, nastudoval si zákony a poté jen ze zákonů vycházel při odpovědích. Stejně tak to jde vidět na počínání jiných firem, které se snaží dělat oborové chatboty.Jeden český klient s tím také zkouší dělat produkty, máme 10 racků plných GPU a stejně je odhad na první verzi k testování někdy v polovině léta. Tohle je prostě obrovská překážka a zatím HW není tak výkonný, aby mohlo dojít k lepší penetraci.

vim :) ale pred par lety bych neveril ze budeme tam kde jsme ted i presto ze jsou tam samozrejme ruzny limity, stejne je ten posun o dost vetsi, nez jsem ho cekal a to jsem tu scenu sledoval docela dost dlouho... Nemyslim si ze je uplne mimo cekat, ze ten vyvoj pujde stejne rychle nebo rychleji dopredu a ruzny neduhy se postupne bude darit resit... At uz se to udela jakkoliv... Uprimne je vlastne jedno jak to bude fungovat, dulezity je, ze bude...