ethics, consciousness, superintelligence, Dennett

Příspěvek předloží argumenty pro a proti existenci kválií. Budu se snažit vyrovnat s iluzionismem Daniela Dennetta a budu uvažovat, zda některá kvália mohou být hodnotami a jaké etické implikace z toho plynou. Ukážu, že iluzonismus není zcela irelevantní možností a budu uvažovat, zda implikuje etický nihilismus. V druhé části budu řešit otázku, zda lze použít kvália v kontextu hledání etických hodnot bezpečné AGI a kontrolního problému s tím spojeného.

The paper presents arguments for and against the existence of qualia. I will try to come to terms with Daniel Dennett's illusionism and I will consider whether some qualia can be values and what ethical implications this entails. I will show that illusonism is not a completely irrelevant possibility, and I will consider whether it implies ethical nihilism. In the second part, I will address the question of whether qualia can be used in the context of finding ethical values for a safe AGI and the control problem associated with it.