superintelligence, security, consciousness, artificial intelligence, ethics

Lidé se domnívají, že stroje nemůžou mít vědomí. Také si myslí, že bez vědomí a sebe-uvědomění není možný vznik umělé inteligence, která by se vyrovnala lidské inteligenci (nebo ji dokonce předčila). Na druhou stranu, vědomí mají pravděpodobně kočky a psi, dokonce i čmeláci a včely. Podle integrované informační teorie vědomí má vědomí snad dokonce čip nebo dioda. Přednáška ukáže, že stroje mohou mít inteligenci vyšší než lidé i tehdy, pokud nebudou mít vědomí. Zároveň ukáže, že pravděpodobně stroje inteligenci mít budou nebo si ji zkonstruují, případně alespoň vyřeší těžký (obtížný) problém vědomí, který lidé vyřešit nedokáží. Díky rozvoji technického poznání nás čeká zrychlující se tempo obrovských sociálních změn. Zejména geopolitické rozložení sil mezi USA a Čínou ukáže, jaká lidstvo čeká budoucnost. Tyto dvě velmoci právě nyní soupeří o to, kdo dřív vyrobí umělou superinteligenci. Filozofové by měli přijít na to, jaké etické hodnoty (cíle rozumného jednání) do umělé inteligence implementovat (pravděpodobně bychom však měli nechat na samotné umělé inteligenci zjištění, jaké hodnoty by to měly být). Také se však může stát, že umělá supeinteligence bude plnit jenom cíle čínských komunistů z Pekingu nebo ziskuchtivé cíle amerických technologických gigantů (Google, Facebook, Amazon, Apple). Tomu by lidstvo mělo zabránit, pokud to vůbec půjde.

1363/5000People believe that machines cannot be conscious. He also thinks that without consciousness and self-consciousness, it is not possible to create artificial intelligence that is equal to (or even surpasses) human intelligence. On the other hand, cats and dogs, even bumblebees and bees, are probably conscious. According to the integrated information theory of consciousness, consciousness may even have a chip or diode. The lecture will show that machines can have intelligence higher than humans even if they are not conscious. At the same time, it will show that machines are likely to have intelligence or construct it, or at least solve a difficult (difficult) consciousness problem that people cannot solve. Due to the development of technical knowledge, we are facing the accelerating pace of huge social change. In particular, the geopolitical power distribution between the US and China will show what humanity awaits the future. The two superpowers now compete for who will first produce artificial superintelligence. Philosophers should figure out what ethical values ??(goals of rational behavior) to implement in artificial intelligence (but we should probably let artificial intelligence determine what values ??they should be). But it can also happen that artificial supeinteligence will only meet the goals of Chinese Communists from Beijing or the greedy goals of American technology giants (Google, Facebook, Amazon, Apple). This should be prevented by humanity, if at all possible.