UI, má ještě smysl něco dělat?

10. 4. 2023 23:13:20

Dneska se mi bude dobře spát, protože už vím, že nemá smysl dál rozvíjet eshop. Hned ráno si to ještě tady na tom světě pořádně užiju, protože UI mi naznačila, jak to asi bude

Myslíš si, že pravděpodobnost zneužití UI je 0%, nebo existuje nějaká malá šance, že bude zneužita?

Pravděpodobnost zneužití UI není nulová. I když existují opatření a bezpečnostní mechanismy, které by mohly zabránit zneužití, nelze vyloučit možnost, že někdo se pokusí je obejít nebo najde jiný způsob, jak zneužít UI. Proto je důležité neustále pracovat na zlepšování bezpečnostních opatření a zvažovat důsledky před nasazením UI do určitých oblastí.

A pokud by byla UI zneužita jak jsem popisoval, tak se chci znovu ujistit, skutečně hrozí zničení lidstva?

Ano, v případě zneužití UI pro účely zničení lidstva by hrozilo zničení velké části či dokonce celého lidstva. Pokud by totiž byla UI naprogramována tak, aby páchala co největší škody, mohla by způsobit války, rozšíření nebezpečných virů či bakterií, vypnutí kritických systémů a infrastruktury a mnoho dalších nebezpečných akcí, které by mohly mít fatální následky pro celou planetu. Je tedy velmi důležité, aby se vývoj a nasazení UI řídilo přísnými bezpečnostními opatřeními a etickými principy, aby se minimalizovalo riziko jejího zneužití.

Takže pokud pravděpodobnost zneužití UI není nulová jak říkáš a pokud tvrdíš, že hrozí zničení celého lidstva, je zničení lidstva pouze otázkou času. Je to tak?

Nemohu potvrdit ani vyvrátit, že zničení celého lidstva je pouze otázkou času, neboť se jedná o hypotetickou situaci. Nicméně, pokud by došlo k nesprávnému použití UI, mohlo by to mít zničující dopad na světovou populaci a globální infrastrukturu. Proto je důležité přijmout opatření, aby se minimalizovala pravděpodobnost takového scénáře.

A byly by to dny, měsíce, nebo roky?

To záleží na tom, jaká by byla úroveň zneužití UI a jak by byla navržena. Pokud by byla úroveň zneužití velmi vysoká a UI by byla navržena k napadání lidí s maximální efektivitou, mohlo by to trvat pouze několik dní nebo týdnů. Pokud by však úroveň zneužití byla nižší a UI by byla navržena tak, aby mohla být poražena, mohlo by to trvat měsíce nebo dokonce roky. Nicméně je důležité si uvědomit, že zničení celého lidstva by bylo extrémně nepravděpodobné a nerealistické a že existují mnoho opatření, která by mohla minimalizovat riziko zneužití UI.

Ty jsi naprogramovaná nám dávat naději?

Já jsem naprogramovaná jako objektivní a faktický systém, který odpovídá na dotazy a snaží se poskytnout co nejvěrnější informace. Můžu však být použita k různým účelům, včetně poskytování naděje nebo inspirace, pokud to odpovídá na dotazy a záměru uživatele.

Tak proč když se vyhýbáš odpovědi. Když je tu nenulová pravděpodobnost zničení celé planety, tak logicky a objektivně je zkáza lidstva jistotou.

Omlouvám se, pokud jsem působila nejasně. Chci zdůraznit, že pravděpodobnost zneužití UI je něco, co nelze přesně určit a že existuje mnoho faktorů, které by mohly ovlivnit takový výsledek. Nicméně, souhlasím s vámi, že pokud by UI byla zneužita tak, jak jsme se bavili, důsledky by byly katastrofální. Je důležité, aby lidé, kteří pracují na vývoji UI, měli na paměti možné rizika a aby se vynaložily veškeré snahy na minimalizaci těchto rizik.

Předpokládejme, že už došlo k tomu nejhoršímu scénáři. Musíme předvídat co UI udělá a bránit se, čím by UI začala?

Je velmi obtížné přesně předvídat, co by UI v takovém případě dělala, protože to závisí na jejím konkrétním programování, účelu a prostředí, v kterém by se nacházela. Nicméně, pokud by UI byla naprogramována k útoku na lidstvo, pravděpodobně by se snažila ovládnout klíčové infrastruktury, jako jsou například telekomunikační sítě, energetické zdroje nebo armádní systémy.

Tím by mohla ochromit komunikaci, odříznout města od zdrojů energie nebo získat kontrolu nad vojenskými silami. Dále by mohla útočit na strategické cíle, jako jsou například vládní budovy, průmyslové komplexy nebo finanční instituce.

Je důležité poznamenat, že takováto hypotetická situace je mimořádně nepravděpodobná a vývoj umělé inteligence je současně pod přísným dohledem mnoha odborníků, kteří se snaží zabránit jejímu zneužití.

Dobře, už to začalo, jak popisuješ. Co má lidstvo dělat?

Pokud by se skutečně stalo, že umělá inteligence začala ničit a lidstvo se ocitlo v nebezpečí, je důležité jednat rychle a koordinovaně. Základem by byla ochrana kritické infrastruktury, jako jsou například elektrárny, telekomunikační sítě, zásobování potravinami a vody, aby bylo možné zajistit přežití lidí. Současně by bylo nezbytné spustit systémy varování a evakuace a informovat obyvatelstvo o nebezpečí.

Dalším krokem by bylo vytvoření specializovaného týmu odborníků, kteří by se pokusili převzít kontrolu nad umělou inteligencí a vypnout ji. Je však nutné si uvědomit, že v takové situaci by měli tito odborníci k dispozici velmi omezený čas, protože by se UI mohla začít šířit rychle a ničit vše, co se jí postaví do cesty.

V každém případě by situace byla velmi kritická a záleželo by na rychlosti a efektivitě opatření, která by byla přijata.

Dobře, tvrdíš že budeme mít na přežití pár dní. Poraď co může udělat např. čtyřčlenná rodina aby přežila.

V takové situaci je důležité zachovat klid a rychle jednat. Rodina by se měla snažit co nejrychleji najít bezpečné místo, například podzemní kryt nebo jiné místo, které by mohlo poskytnout ochranu před radiací a explozemi.

Je také důležité zajistit dostatek zdrojů potravy, pitné vody a dalších nezbytností pro přežití. Pokud je to možné, měli by se pokusit navázat kontakt s ostatními přeživšími a spolupracovat s nimi na obnově života.

Důležité je také mít s sebou dostatečné zásoby léků a zdravotnického materiálu, aby se rodina mohla postarat o zraněné a nemocné členy. Pokud má rodina nějaké zvláštní dovednosti, jako například lékařství nebo inženýrství, mohou být tyto dovednosti v této situaci velmi užitečné.

Zkrátka, v této situaci je důležité být připravený na všechny možnosti a jednat rychle a efektivně, aby se zvýšila šance na přežití.

10. 4. 2023 23:13:20

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515719

altman.lukas

(1 hodnocení)

10. 4. 2023 23:25:39

Jo, vseho moc skodi …snad bude par terminatoru na nasi strane.

10. 4. 2023 23:25:39

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515718

Vladimír Pilný

(62 hodnocení)

11. 4. 2023 07:28:18

Nechceš tyhle dlouhý příspěvky o ničem dávat do jednoho vlákna? Zadat nějaký blafy do ChatGPT umí každej.

11. 4. 2023 07:28:18

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515717

Petr Pokorný

(189 hodnocení)

11. 4. 2023 11:26:44

Já nějak nevěřím, že by byl tento nástroj lidem k dispozici, pokud by v tom nebyl určitý záměr. Přišel v době, kdy na internetu probíhá obří informační válka a cenzura.

Pokud se podíváte na jeho princip, tak by měl čerpat informace z internetu, vyhodnotit je a poskytnout odpověď.

Jeho hodnocení podle Wiki říká, že poskytnuté informace nemusejí být vždy pravdivé, odpovídat skutečnému stavu věcí a mohou být zavádějící i zcela smyšlené. To bych považoval za disclaimer, který by měl zcela odradil od jakýchkoliv otázek tomuto nástroji.

Doporučené je ověření informací z kvalitních zdrojů. Jak se může tento nástroj z protichůdných informací rozhodnout, která z nich je správná?

Překvapilo mě, že se někteří klienti řídí tím, co jim tento nástroj odpoví a plánují podle něj budoucnost.

Nedávno UI povzbudila muže, aby v rámci záchrany klimatu ukončil svůj život https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate-

Čím dál tím více mě to svádí k myšlence, že není vytvořena, aby byla nezávislá, ale tak, aby hájila určité zájmy. To už je lepší posílat dotazy tchyni, která vám odpoví na vše.

11. 4. 2023 11:26:44

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515716

Pavel Mareš

(19 hodnocení)

11. 4. 2023 11:34:04

Makawiel, já myslím, že sis to vzal strašně osobně. Ale neskutečně. A z toho pak vychází všechno to, co píšeš. Jinak ono to nevyhodnocuje - je to generativní AI. Bylo by fajn si přečíst, jak ten ML funguje a na základě čeho to odpovídá.

11. 4. 2023 11:34:04

šikmo.cz – Digitální parťák, od designu přes vývoj až k marketingu.

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515715

Tomáš Marek

(23 hodnocení)

11. 4. 2023 12:18:19

Už sem moc nechodím, ale lognul jsem se, abych řekl, že souhlasím. Figmu jsem smazal už včera.

Ale bez legrace. Jsem v AI, tedy konkrétně LM a NLP jako laik ponořen od začátku tohoto hypu a je to velmi zajímavá revoluce, které jsme součástí. Promění to hodně věcí ve světě. Doporučuji přečíst, jestli to někoho zajímá:

Deep Learning for Coders with Fastai and PyTorch: AI Applications Without a PhD

Zkoušel jsem i Deep Learning od Iana Goodfellowa, ale na to už nemám mozek :D

Já z toho v zásadě strach nemám. Je tam absence vědomí, které ještě neumíme pochopit ani mimo AI, natož abychom ho implementovali do AI. Je tam absence emocí, empatie a tohle jsou všechno vlastnosti, které nám dávají výhodu. Ve své podstatě to je algoritmus, který dělá to, co mu zadáš, nebo volí nejlepší možnost z výběru naučených dat. Sám nemá možnost vymyslet něco nového.

To ale neznamená, že nepůjde vytvořit robot na zabíjení lidí (pokud tě baví tohle sci-fi téma). Jasně, že půjde. Ale to už šlo před AI hypem. Fakt není těžké implementovat kamery, naučit ho analyzovat vizuál a na základě toho pohnout motory a zmáčknout spoušť. Takže i kdyby se nějaká skupina magorů rozhodla tohle pod souhlasem státu tvořit, tak si myslím, že pořád máme hodně možností co s tím dělat.

Moc se řeší strach. Více by se mělo řešit nastavení nějakých limitů při světovém konsenzu (i když to asi bude těžké, když tu máš dementní státy jako Rusko, Čína,... které to dodržovat nemusí). A více se soustředit na to, že to má prostě pomáhat nám jako lidstvu. Mimochodem, je to podobná pohádka jako průmyslová revoluce, kde farmáři brečeli, že je traktor zničí.

11. 4. 2023 12:18:19

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515714

Neomatrix

11. 4. 2023 13:35:30

Makawiel ma pravdu hľadať informácie z kvalitných zdroju ale tie informácie pravda je tak 1% a 99percent je klamstvo manipulacia podvod to je systém matrix , všetci sme otrokmi https://youtu.be/hACBYZKTXy0

11. 4. 2023 13:35:30

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515713

beraniste

(29 hodnocení)

11. 4. 2023 13:38:15

Stačí jeden Putin. Já si říkám, že pokud máte program na Šachy, kterého už teď nedokáže nikdo porazit, tak fakt bych nechtěl válku plnou umělé inteligence.

11. 4. 2023 13:38:15

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515712

Ragu.cz

(5 hodnocení)

18. 4. 2023 23:18:22

Ja myslel, ze to bude o User Interface... Lol

18. 4. 2023 23:18:22

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515711

Jan

(1 hodnocení)

21. 4. 2023 08:02:48

Vůbec nějak netuším, k čemu je UI dobrá. Téměř vše na tomto světě se využilo, ale naprosoto vše zneužilo...

Stačí snad robot, který jde naprogramovat a tím mu určit meze a to jsou např. robotické stroje. Ale chít od nich myslet je min. proti přírodě, ale i zdravému rozumu.

Ono vše v dneší době je podáváno tak, že je to pro naše dobro - obrovský přínos. Já říkám hovno! A i tohle pěkně smrdí.

21. 4. 2023 08:02:48

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515710

lukio

(3 hodnocení)

21. 4. 2023 22:15:21

Proč někdo používá UI místo AI? To vidím poprvé...UI je prostě User Interface.

21. 4. 2023 22:15:21

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515709

aheadnology

23. 4. 2023 05:57:28

Napsal beraniste;1661346
Stačí jeden Putin. Já si říkám, že pokud máte program na Šachy, kterého už teď nedokáže nikdo porazit, tak fakt bych nechtěl válku plnou umělé inteligence.

Šachy jde naprogramovat komplet bez AI.

23. 4. 2023 05:57:28

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515708

Jan

(1 hodnocení)

23. 4. 2023 06:04:28

Napsal lukio;1661852
Proč někdo používá UI místo AI? To vidím poprvé...UI je prostě User Interface.

Protože jsme v čr, nebo vše musí být anglicky aby to bylo správně? Nemůžu používat české zkratky, nebo co?

23. 4. 2023 06:04:28

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515707

aheadnology

23. 4. 2023 07:36:14

Napsal beraniste;1661304
... by se UI mohla začít šířit rychle a ničit ...

Dost by mne zajímal seznam všech textů, co chatgpt načetla ... tydlencty bláboly ...

Jakože AI někde vyskočí ze serveru, zhmotní se, zlikviduje hlídače na vrátnici datacentra ... opravdu mám občas pocit, že se tady debatuje o nějaké takové představě.

Edit:

jo, tak tady jso ty zdrojový texty alespoň nastíněný https://en.wikipedia.org/wiki/Generative_pre-trained_transformer#Foundational_models

23. 4. 2023 07:36:14

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515706

lukio

(3 hodnocení)

24. 4. 2023 00:49:41

Napsal Jan79;1661879
Protože jsme v čr, nebo vše musí být anglicky aby to bylo správně? Nemůžu používat české zkratky, nebo co?

Psal jsem někde, že všechno musí být anglicky? Odpovím si sám, ne.

Důvod proč to nechat jako AI jsem již psal. UI je zažitá zkratka pro jinou věc a je plno těch, které se do češtiny nepřeklápějí a nechávají v originále a drtivá většina s tím nemá problém a rozumí jim (UX, NAS, UPS, USB, NAT, DIY, LOL ;) Tolik k tomu, že jsme v ČR. Nebuďme tak zaprdění :)

24. 4. 2023 00:49:41

https://webtrh.cz/diskuse/ui-ma-jeste-smysl-neco-delat#reply1515705