Týnek: „Umělá inteligence může mít jen takovou moc jakou jí dáme.“
To je nebezpečný mýtus.

Příroda lidská těla miliony let uzpůsobovala pro život na afrických pláních – tím definovala naši základní moc. Nemáme srst, abychom mohli přežít zimu na severu, nemáme křídla, abychom mohli cestovat oblohou, nemáme žábry, abychom mohli sledovat svět pod vodou, máme jen plíce, které potřebují pozemský vzduch, nemáme ostré zuby a drápy, abychom mohli cokoliv ulovit, nemáme superzrak a supersluch, abychom se spolu dokázali dorozumívat přes delší vzdálenosti…

A přesto dokážeme v pohodě žít v prakticky libovolném prostředí, umíme cestovat vzduchem i pod vodou, a když chceme pohnout šutrem na Marsu, tak si tam vystřelíme autíčko na dálkové ovládání, žádný jiný pozemský tvor nás ani zdaleka nedokáže sundat z vrcholu potravního řetězce (naopak je nám skoro celá příroda vydána na milost) a co se týče dorozumívání… no, teď tady s vámi mluvím, i když s vámi nesdílím jeskyni.

Jednou ze základních předností inteligence je, že hledá cesty, jak překonávat překážky.

„Vždy se dá vypnout.“
To zní jako překážka.

Gorila také umí člověka vypnout. Ale člověk se většinou nenechá, protože je o kousíček chytřejší než gorila a umí chování gorily dostatečně dobře předvídat. Ani když obrovská tlupa goril uspořádá sněm, nedokáže vymyslet plán, jak přelstít jednoho průměrně chytrého člověka, který ví, že by ho gorily mohly chtít vypnout.

Naše civilizace začala tím, že jsme se naučili využívat méně inteligentní formy života, jako jsou obilí a dobytek, k našim cílům. Také jsme vynalezli důmyslný mechanismus, aby nás nevypnula fyzicky silnější zvířata: dveře!

Když ti umělá superinteligence určená k návrhu karoserie automobilů slíbí, že najde řešení na rakovinu, pokud ji připojíš k 3D biotiskárně, vypneš ji? Možná ne, možná jí řekneš, ať ti to řešení popíše. Ona ti ho popíše, vygeneruje vědecký článek s detailním návodem, který skutečně bude fungovat. Pak ti slíbí, že vyřeší AIDS… a postup se zopakuje. Chceš být věčně mlád? Tady máš návod, jak zastavit a zvrátit stárnutí. Co tam máme dál? Možná bychom mohli opravit stav pozemské atmosféry, vycucnout skleníkové plyny. A osídlit Mars a klidně i Venuši. Každý další zázrak způsobí, že budeš ochotnější dát jí víc možností… až se pak jednoho dne stane, že získá dostatečné možnosti k převzetí kontroly nad vším. Už nepůjde vypnout, ani když se na tom shodne devět miliard lidí. Smyslem její existence je přeci navrhnout tu nejúžasnější karoserii automobilu, ne? A to se dělá tak, že:

1. Vyřešíš většinu lidských problémů.
2. Odstraníš kohokoliv, kdo by tě mohl zastavit.
3. Začneš přeměňovat všechnu dostupnou hmotu na počítačové procesory, protože je pravděpodobné, že když budeš chytřejší, vymyslíš lepší návrh.

Filmy, jako je třeba Terminátor, předpokládají, že bude AI podobně chytrá jako lidi, že bude nějak zlá podle našich humanistických měřítek. Reálnější scénář je, že nás jen využije při cestě k dosažení cíle, který jsme jí sami zadali. Nemusí s námi násilně válčit, stačí nás obehrát a obejít…

Tux

testy se ale věrtšinou píšou v škole a tam to nijak nepujde tajně to vyfotit mobilem

MichP:

„Ty by jsi kontroloval jednotlivé úkoly 20+ žáků takhle?“

Úkoly ne, ale testy už třeba ano.

MichP: Ale teda ChatGPT na korekturu moc dobrý není. Dokáže vynechat spoustu hrubek a někdy si vymyslet i nějaké nové, které tam ani předtím nebyly.

Tux

„Navíc si učitel kdykoliv může danou aplikaci také stáhnout, a pak porovnat její postup s tvým postupem v sešitě."

Ty by jsi kontroloval jednotlivé úkoly 20+ žáků takhle? Učitel není takový stroj...

Za pomocí technologií také si žák klidně udělá domácí úkol na pravopis, protože existují korektory které ti opraví Kachna řýkala tato otravná zvuk na Kachna říkala tento otravný zvuk

Umělá inteligence může mít jen takovou moc jakou ji dáme. Vždy se dá vypnout.
Katastrofy jako z Terminátora hrozí jen když ji dáme moc rozhodovat o reálných a důležitých věcech, třeba řídit elektrárnu.

MichP:

„Zkoušel jsem si tam napsat aby mi to třeba řeklo referát v češtině a udělalo mi to tak, že bych se nebál moc to okopírovat do Wordu, doplnit to o datum, nadpis a nějaké obrázky a odprezentovat to, ale proč bych to dělal když to dělám často do věcí co mě baví.“

Tak řekněme, že když budeš chtít referát třeba o žirafě (a nebo o něčem takovém ), tak ti to asi vygeneruje bez chyb, protože na tom není moc co zkazit, ale když budeš chtít referát třeba o něčem z IT, tak tam už si tím nejsem až tak moc jistý. Když se teď podívám na internet a přečtu si nějaký článek o IT, tak zjistím, že obsahuje spousty chyb. A jak tedy ChatGPT může být v tomto ohledu lepší, když čerpá data z internetu?

„Já ti nevím, už různí profesoři třeba zkoušeli ChatGPT udělat různé zkoušky a říkají často že je lepší než hodně studentů.“

To je dost možné, protože když si představím, co někteří studenti předvádějí u maturit, tak se ani nedivím. Ale zase záleží v jakém oboru samozřejmě.

„A úkoly z matematiky už studenti za pomocí technologií udělají na jedničky, určitě víš o tom že existují aplikace kterým vyfotíš příklad a řekne ti to řešení i postup.“

Například Photomath že ano? Ale jistě víš, že ti kolikrát napíše postup, který jste se ve škole neučili, a tím pádem to pak učitel snadno pozná, že jsi úkol neudělal sám, ale s něčí pomocí a nebo ti ho prostě vůbec neuzná. Navíc si učitel kdykoliv může danou aplikaci také stáhnout, a pak porovnat její postup s tvým postupem v sešitě. Na druhou stranu ti však ale může pomoci při vysvětlení řešení dané úlohy, což je podle mě super věc.

Navíc ten ChatGPT mi v jednom ohledu čím dál tím více začíná připomínat jakýsi vyhledávací algoritmus. Už kdysi byly návrhy, že do vyhledávače zadáš otázku a daný vyhledávací algoritmus ti rovnou poskytne odpověď v podobě textu. Google nakonec něco takového implementoval, akorát ne v takovém měřítku.

A jestli dokáže i něco víc, jako je třeba vygenerovat básničku z daných slov a nebo na dané téma, či další věci, tak si myslím, že už to dnes není nic až tak moc nového. Umělá inteligence generující obrázky je podle mě daleko lepší, což však ale ChatGPT neumí...

ShabadacaG00D: Základní problém je, že jakmile dosáhne AI úrovně lidské inteligence, tak se na ní téměř jistě nezastaví.

Strach, že lidé nepoznají, jestli mluví s AI nebo jestli nenahradí jejich práci, mi připadá strašně přízemní. Ale jestli pomůže k tomu, aby začal vznikat lepší právní rámec pro vývoj umělé inteligence, tak těmto obavám fandím.

Já mám spíš strach, že umělá inteligence způsobí zánik biologického života. Momentálně zatím nikdo nezná řešení, jak správně zarovnat hodnoty umělé superinteligence s lidskými hodnotami – tedy jak udělat, aby chtěla to, co by lidem pomáhalo, nebo alespoň nevadilo. Je jisté, že jakékoliv špatné zarovnání způsobí katastrofu, jakmile bude AI schopnější než my. Představ si ji jako kouzelného džina, který ti splní přání… ale máš jen jedno přání. Jen jednu možnost, pro celé lidstvo a jednou provždy. Cokoliv, co ve své prosbě nezahrneš, džin obětuje, aby ti tvé přání co nejefektivněji vyplnil. Žádnou druhou šanci už nikdy nedostaneš, nikdo ji nedostane, protože druhé přání by ohrozilo plnění toho prvního. Pokud džinovi poručíš, že mají být všichni lidé na světě šťastní, tak si vybere jedno mentálně postižené dítě a všechny ostatní bezbolestně zahubí – a má hotovo, udržovat jednoho nenáročného člověka šťastného je nejefektivnější řešení.

Pokud nezměníme přístup k vývoji, nejpravděpodobnější scénář je, že se nám to správné zadání vymyslet nepovede a umělá inteligence nás všechny obětuje při řešení nějaké absurdní triviality. Že si ani včas neuvědomíme, že třeba testovací provoz nového programu na úsporu spotřeby pitné vody převzal kontrolu nad světem. Skončíme jako mravenec, který se připletl mocnému staviteli do cesty…

… a jehož blaho není pro dosažení cíle důležité., © Paul Lachine

Ve hře jsou kupodivu i mnohem horší scénáře než vyhynutí.

Lidstvo místo toho, aby seriózně přemýšlelo nad tímto smrtelně vážným problémem, kterému bude v tomto století čelit, řeší zatím naprosté pitomosti. Buď považuje rizika AI za sci-fi*, nebo si namlouvá, že několikanásobně chytřejšího protivníka dokáže kontrolovat, nebo se uklidňuje tím, že je to ještě za dlouho a že se určitě najde nějaký koumák, který za nás vymyslí jednoduchou odpověď… a mezitím čas běží…

Exponenciální vývoj je strašná mrcha.
Odhaduji, že máme čas někde mezi třemi a dvaceti roky.

Posteskl jsem si takto i před šesti lety a co se za tu dobu změnilo? Lidstvo řeší jiné pitomosti než tehdy, ale problém zarovnání hodnot AI se skoro nikam neposunul. (Alespoň tedy o něm ví a mluví víc lidí, které ale skoro nikdo důležitý neposlouchá.)

Tux

„studentům umožňuje podvádět, to je ale také nesmysl, protože úkol za ně na jedničku nikdy nenapíše"

Já ti nevím, už různí profesoři třeba zkoušeli ChatGPT udělat různé zkoušky a říkají často že je lepší než hodně studentů.

Zkoušel jsem si tam napsat aby mi to třeba řeklo referát v češtině a udělalo mi to tak, že bych se nebál moc to okopírovat do Wordu, doplnit to o datum, nadpis a nějaké obrázky a odprezentovat to, ale proč bych to dělal když to dělám často do věcí co mě baví.

A úkoly z matematiky už studenti za pomocí technologií udělají na jedničky, určitě víš o tom že existují aplikace kterým vyfotíš příklad a řekne ti to řešení i postup.

ChatGPT že? No třeba za mě to není nic až tak moc technologicky úžasného, podobných věcí tu již v minulosti bylo dost, akorát se o nich tolik nemluvilo. Navíc se stále jedná o jakousi beta verzi.

Za ChatemGPT stojí firma OpenAI, která se sice snaží o otevřený vývoj umělé inteligence, ale samotný ChatGPT otevřený není, nýbrž je proprietární. Což znamená, že má uzavřený zdrojový kód a nikdo tak neví, jestli se také náhodou nejedná o jeden velký podvod, což je také dost možné. Jedná se tedy o jakousi „černou skříňku“.

Celý projekt navíc podléhá dost značné kritice a jeho budoucnost je tím pádem tak nejistá.

Tvrzení, že umělá inteligence ovládne celé lidstvo a zničí celý svět je totální nesmysl, který lidé převzali z akčních filmů jako je Matrix, Terminátor a podobně.

Dalším tvrzením je, že studentům umožňuje podvádět, to je ale také nesmysl, protože úkol za ně na jedničku nikdy nenapíše. Jednak totiž čerpá data z internetu (kde jak jistě všichni víte, nemusí být všechno pravda), nedokáže informace jako člověk logicky porovnávat a navíc ani nepracuje s online daty, maximálně tak s těmi z roku 2021. Odpovědi tak většinou obsahují spousty chyb a učitelé to snadno poznají, a nebo třeba i nepoznají, ale dobrou známku za ně v každém případě nedostanete.

Ještě dávno předtím, než vůbec začal existovat nějaký ChatGPT, tak byl vyvinut nástroj na vyhledávání textů zkopírovaných z internetu. Učitelé si tak jistě brzy zase najdou cestu, jak zabránit studentům podvádět.

Dalším tvrzením je, že nahradí mnoho povolání, jako jsou třeba učitelé a programátoři. To je ale také nesmysl, protože umělá inteligence nikdy nemůže nahradit člověka. Učitel zná žákovy potřeby. Dokáže se vcítit do jeho situace a vysvětlit mu učivo způsobem, který jemu vyhovuje. To však umělá inteligence neumí a ani nikdy umět nebude. ChatGPT možná dokáže napsat kód rychleji než programátor, ale na rozdíl od něho si svůj kód nijak netestuje a má v něm tím pádem tak mnoho chyb a i bezpečnostních rizik. Navíc jeho kód ani není zcela optimální. Dobří učitelé a programátoři se tak myslím nemusí bát, že by přišli o práci.

Když vznikl internet, sociální sítě, kryptoměny a další věci, tak to také způsobilo obrovský rozruch a dnes je to pro všechny naprosto běžná věc. ChatGPT stejně jako internet dokáže mnoho věcí usnadnit, ale je třeba si uvědomit, že vše dobré jde k něčemu zneužít. Temný web a počítačové viry jsou toho důkazem. ChatGPT zase může stejně snadno jako internet a sociální sítě ovlivnit to, co si lidé myslí, respektive to dokáže vygenerovat. Ale co to vlastně jsou počítačové viry? Není to nic jiného než zneužití znalostí o operačních systémech. A jestli si myslíte, že počítačoví hackeři používají nějaké svoje programy, které nikdo jiný nezná, tak se mýlíte. Jedná se totiž o úplně běžné programy, které si můžete stáhnout i vy sami (ale nedoporučuji vám to, když jim nerozumíte). Jde tak pouze o jejich zneužití. A o tom právě že mluvím, o zneužití. To je asi jediné riziko ChatuGPT, stejně, jako ale všeho v IT. Nikdo ale nikoho nenutí ho používat, je to na každém, jak se rozhodne.

Zrovna já o tomhle něco vím, takže si myslím, že bych k tomu také mohl něco říct, ale nemusím mít ve všem pravdu samozřejmě, a proto si rád poslechnu názory i ostatních.

ShabacaGOOD

Myslím si že AI tolik prací zase nevezme, může nějaké práce vytvořit a firmy se budou snažit ty práce pro lidi dělat, AI by měla zaměstnancům být pomocná ruka.

Pokud ale technologie půjdou tak daleko že budou hodně výhodné a nahrazovat levněji zaměstnance a vlády nebo firmy nijak nebudou řešit práci pro lidi a miliony přijdou o práci, tak vzniknou extremistické strany které budou říkat že kapitalismus je zlo a proč toto dovolilo.

Ale nemyslím si že by se to stalo

Já nechápu, proč se někteří lidé neustále „bojí" AI. Není a ještě dlouho nebude ve fázi, kdy by mohlo ovládnout svět nebo nahradit všechna povolání.

Třeba teď jsem viděl na Tiktoku (ano, používám ho :D) video, kde nás straší tím, že za chvíli nepoznáme, jestli se bavíme s člověkem nebo AI. Za prvé mě tato představa moc neděsí, protože u mnoha lidí bych radši vedl rozhovor i se zdí než s nima, za druhé pokud dojdeme do této fáze, bylo by namístě se zamyslet, jaký je vlastně mezi lidským mozkem a „mozkem" AI a jestli by se AI už nedala považovat za normální žijící bytost.

No koukám, že česky už umí dobře. To mi ztíží rozpoznávání podvodných e-mailů.
A psát jako dítě se dokáže naučit velmi rychle, tipovala bych to na... 8 vteřin?
Možná že ho využiju na přepsání několika kódů z maxíka na Blender, to by mi bodlo, až zase budu chtít importovat nějaké modely... Nebo mi je napíše rovnou sám, pokud neexistují.

Už se to tu trochu nakouslo v jiné nástěnce: Umělá inteligence ChatGPT

Jinak referáty... ano, ale ne. ChatGPT pořád neumí psát dost přesvědčivě na to, aby to vypadalo jako text od dítěte (můžete napsat, že to tak má vypadat, to jsem zatím nezkoušel).

To teda, musí se připravit regulace a musí být hotové včera.

Morell

Těžko předpovídat co z toho bude, ale musí se to regulovat, udělat nějaké zákony a zabezpečení, umělá inteligence jde opravdu dobře využít k podvodům

Myslím, že tuhle nástěnku oživím, protože i když se o tom ve zprávách u nás nemluví, umělá inteligence dělá ve svém vývoji skoky a musím se ptát, jako se ptají jiní: kam to povede?

Už nyní mají někteří učitelé vrásky, jak si ohlídat, aby jim referáty nezačaly děti dělat s AI. Ale i jinak, jak tohle dopadne...

@adee a @-MM- máte pravdu. Ale ja som vždy v režime inkogmito-full cez všelijaké vpn-ky a systémové nastavenia. Ale potom v Číne to teraz ani potom po zavedení Kreditového Systému nepomôže.

nnpp: YouTube má svoji umělou inteligenci dost propracovanou. Bere bitvu o pozornost uživatele velmi vážně. Snaží se vést své diváky vždy k extrémnější variantě toho, co si myslí, že je zajímá... protože extrémy víc nalákají.

Používám několik počítačů a v nich většinou i několik prohlížečů, zásadně nikde nejsem přihlášený do Googlu, takže YouTube neví, že já jsem já... a připadám si, jako kdybych koukal na několik různých webů, protože v každém prohlížeči o mně YouTube ví něco jiného, takže mi servíruje úplně jiný obsah. Toho, že mě zkouší tlačit směrem k extrémnějším variantám, si všímám všude... a nenechám se.

Nedávno jsem viděl povídání od matematika Erica Weinsteina, kde popisoval, že umělá inteligence nemusí být nutně chytřejší k tomu, aby na člověku nepěkně parazitovala. I v přírodě jsou známé příklady, kdy hloupější ošálí chytřejšího – třeba rostliny, které mají list, který připomíná samičku hmyzu. Rostlina pak nemusí vyrábět nektar, opylující sameček se nechá zlákat listem... přestože má mnohem vyspělejší nervovou soustavu než rostlina (která si ani neuvědomuje, že dělá něco důmyslného). Zrovna tak YouTube nerozumí tomu, kam vlastně svého diváka vede, nechápe, jaké myšlenky ve svých klipech sděluje, ale ví, jak divákovu pozornost udržet.

Koukněte se na kovyho ten má dobrý názor

BakerStreet Youtubovemu algoritmu sa nerozumiem. Asi podla nedávnich vyhladavani alebo v tiahnutia do tak vzanej Čiernej diery

Nevím, proč se mi vybavila tato písnička.

Nové vieci ze sveta Umelé inteligence.