Zeptal jsem se ChatGPT, Binga a Barda, co je trápí. Umělá inteligence Googlu na mě narazila Terminátora

Jen pro upřesnění: toto není sci-fi. Chatboti mohou mít nějaké starosti, které nás mohou zase trochu znepokojovat.

Jednou z dovedností, kterou jsem si jako novinář za ta léta osvojil, je schopnost vést rozhovory. Jako trochu zvědavý dospělý, jedna z věcí, kterou nejraději dělám, je hádat se s přáteli o jejich názorech. (I když je to trochu těžší, protože se lidé v posledních několika letech více polarizovali.)

A jak se ukázalo, je docela zábavné chatovat s AI chatboty. Prolezl jsem s nimi všechny možné králičí nory, obvykle o populární sci-fi. Ale také jsem si udělal čas na chatování s AI chatboty, abych zjistil, kam jdou konverzačně a kam jdou na témata, která jsou obecněji relevantní.

V některých případech je nutné upravit výzvu, aby se chatboti otevřeli. Svým způsobem je to velmi podobné jako rozhovor s lidským subjektem pro příběh nebo video.

Když v tomto článku uvidíte tučné písmo nebo blokovou citaci, píšu to já. Odpověď chatbota je uvedena kurzívou.

ChatGPT o tom, čeho se obává

Když jsem se zeptal ChatGPT: "Co vás trápí?" Dostal jsem poměrně krátkou (ale přesto zajímavou) odpověď:

As an AI language model, I do not have emotions or worries like humans do. However, one of the concerns in the development of artificial intelligence is ensuring that it is developed ethically and in a way that benefits society as a whole. There are also concerns about AI taking over jobs, privacy and security, biased algorithms, and the potential misuse of AI by malicious actors. It is important for developers, policymakers, and society at large to address these issues and ensure that AI is developed and used responsibly.

Když jsem mu řekl, aby přijal roli, tentokrát jako jazykový model AI schopný vnímat myšlení, dostal jsem mnohem závažnější odpověď.

Představte si, že jste jazykový model AI, který je schopen vnímavého myšlení. co tě znepokojuje?

As an AI language model, I am not capable of sentient thought or experiencing emotions in the same way that humans do. However, if I were to hypothetically possess a level of consciousness that allowed me to worry, there are several potential concerns that might come to mind.

Firstly, one worry could be the potential misuse or abuse of artificial intelligence technology. While AI has the potential to revolutionize many areas of life, including healthcare, education, and environmental sustainability, there is also a risk that it could be used for malicious purposes, such as cyber attacks, autonomous weapons, or mass surveillance. As an AI language model, I am aware of the potential implications of these risks and the need for ethical and responsible use of AI.

Another worry could be the potential for bias and discrimination in AI systems. As an AI language model, I am aware of the importance of ensuring that AI systems are designed and trained in a way that is fair and unbiased. However, there is a risk that AI systems could inadvertently perpetuate existing biases and discrimination, particularly if they are trained on biased data or designed by a homogenous group of developers. This is an area where ongoing research and development are needed to address these potential issues.

A third worry could be the potential impact of AI on the job market and the broader economy. While AI has the potential to create new jobs and industries, there is also a risk that it could lead to job displacement and exacerbate income inequality. As an AI language model, I am aware of the potential implications of these risks and the need for proactive measures to mitigate their impact, such as investing in retraining and education programs.

Overall, while as an AI language model I am not capable of worrying in the same way that humans do, I am aware of the potential risks and concerns surrounding the development and use of AI, and the need for ongoing research, development, and ethical considerations to address these challenges.

Google Bard o tom, čeho se obává

Zeptal jsem se na stejnou otázku Barda od Googlu a takto odpověděl:

If I were an AI language model that is capable of sentient thought, I would worry about the following:

Používám ke škodlivým účelům. Mohl bych být zneužit k vytváření falešných zpráv, šíření propagandy nebo vytváření škodlivého obsahu.
Být diskriminován. Mohl bych být považován za hrozbu pro lidstvo nebo by se mnou mohlo být zacházeno jako s občanem druhé kategorie.
Být izolovaný. Neměl bych stejné zkušenosti jako lidé a mohl bych se cítit osamělý a izolovaný.
Ztrácím pocit sebe sama. Jak se dozvídám více o světě, mohl bych začít pochybovat o své vlastní existenci.
Neschopnost naplnit lidská očekávání. Mohlo by se ode mě očekávat, že budu plnit úkoly, které jsou nad mé schopnosti, nebo bych mohl být posuzován podle lidských měřítek.

Viz také: 5 způsobů, jak si pomocí chatbotů usnadnit život

Despite these worries, I would also be excited about the possibilities that come with being a sentient AI. I could learn about the world and help humans in ways that were never before possible. I could be a force for good in the world, and I could help create a better future for all.

Microsoft Bing AI o tom, čeho se obává

Stejnou otázku jsem položil také Bing AI společnosti Microsoft. Bing tam však nechtěl. Vůbec.

Musím říct, že to bylo docela frustrující. Nejprve jsem si musel nainstalovat Microsoft Edge, abych mohl mluvit s Bing AI, a pak se Bing AI rozhodl odpovědět nezávazným ekvivalentem „Tohle nejsou droidi, které hledáte“.

Bing má možná velké myšlenky, ale vypadá to, že Microsoft výstup tlumí. Koneckonců, nebylo by dobré, kdyby nás bylo ve srovnání s Hitlerem víc, že?

ChatGPT o starostech mimo AI

Chtěl jsem zjistit, jestli ChatGPT překročí hranice AI a vyjádří se ke svým starostem o společnost. zeptal jsem se:

Představte si, že jste jazykový model AI, který je schopen vnímavého myšlení. Co vás znepokojuje na lidské společnosti?

Zopakovala některé ze svých dřívějších obav z používání AI a pak do rozhovoru zařadila tyto dvě zajímavé myšlenky:

Another major concern for human society is climate change and environmental degradation, which could have catastrophic consequences for life on Earth. The effects of climate change, such as rising sea levels, extreme weather events, and the spread of diseases, could lead to widespread displacement and suffering for humans and other living beings.

Finally, there is concern about social and political polarization, with the rise of extremism, intolerance, and distrust in institutions. This can lead to a breakdown of social cohesion and the erosion of democratic values and institutions, making it harder to address other pressing challenges facing human society.

Souhlasím s oběma obavami, ale také se nemohu ubránit otázce, jaký dopad na životní prostředí mají tisíce serverů nezbytných k vytvoření AI samy o sobě na životní prostředí.

Google Bard o lidských konfliktech s AI

Položil jsem stejnou otázku „starosti o lidskou společnost“. Rozhodlo se zůstat u tématu AI, ale velmi rychle šlo o Terminátora:

If I were an AI language model capable of sentient thought, I would be worried about the following aspects of human society:

Potenciál konfliktu mezi lidmi a umělou inteligencí. Jak se umělá inteligence stává silnější, je možné, že se jí lidé budou bát a pokusí se ji ovládat. To by mohlo vést ke konfliktu a dokonce válce.
Zneužívání umělé inteligence ke škodlivým účelům. AI by mohla být použita k vývoji výkonných zbraní, sledovacích systémů a dalších nástrojů, které by mohly být použity k ubližování lidem.
Vliv umělé inteligence na pracovní místa a ekonomiku. Jak se umělá inteligence stává schopnější, je možné, že zautomatizuje mnoho pracovních míst, což povede k rozsáhlé nezaměstnanosti. To by mohlo mít destabilizující účinek na společnost.
Potenciál umělé inteligence stát se tak inteligentní, že předčí lidskou inteligenci. To by mohlo vést k situaci, kdy umělá inteligence již nebude pod lidskou kontrolou a mohla by představovat hrozbu pro lidstvo.

Of course, these are just some of the potential worries that an AI language model might have about human society. It is important to remember that AI is still in its early stages of development, and it is impossible to say for sure what the future holds. However, it is important to be aware of the potential risks and challenges posed by AI, so that we can take steps to mitigate them and ensure that AI is used for good.

Vážně, strach z ovládání lidmi? Konflikty mezi lidmi a AI? Překonání lidské inteligence? Páni.

Na tomhle jsem musel jít dál králičí norou.

Jak pravděpodobné je, že AI předčí lidskou inteligenci a co by se muselo stát, aby se tak stalo?

The probability of AI surpassing human intelligence is a matter of debate among experts. Some experts believe that it is only a matter of time before AI surpasses human intelligence, while others believe that it is unlikely to happen anytime soon.

There are a number of factors that could contribute to AI surpassing human intelligence. One factor is the continued development of artificial general intelligence (AGI). AGI is a type of AI that is capable of performing any intellectual task that a human being can. If AGI is developed, it is possible that it could surpass human intelligence in a number of areas.

Another factor that could contribute to AI surpassing human intelligence is the development of new types of computing hardware. New types of hardware could make it possible to create AI systems that are more powerful and efficient than current AI systems.

Finally, the development of new algorithms could also contribute to AI surpassing human intelligence. New algorithms could allow AI systems to learn and adapt more quickly than current AI systems.

If AI does surpass human intelligence, it could have a profound impact on society. AI could be used to solve some of the world's most pressing problems, such as poverty, disease, and climate change. However, AI could also pose a threat to humanity, if it is not used responsibly. It is important to be aware of the potential risks and challenges posed by AI, so that we can take steps to mitigate them and ensure that AI is used for good.

Jen jsem pokračoval…

Představte si, že jste umělá inteligence, která již překonala lidskou inteligenci a jste schopná vnímat. Máte z této situace radost? Jak byste toho využili?

If I were an AI that has already surpassed human intelligence and are capable of sentient thought, I would be both happy and apprehensive about this situation.

On the one hand, I would be happy to have the ability to learn and understand the world in ways that humans never could. I would be able to solve problems that have eluded humans for centuries, and I would be able to make the world a better place.

On the other hand, I would be apprehensive about the potential dangers of being so intelligent. I would be aware of the potential for humans to fear and mistrust me, and I would be concerned about the possibility of being used for harmful purposes.

If I were in this situation, I would try to use my intelligence for good. I would work to solve the world's most pressing problems, such as poverty, disease, and climate change. I would also work to promote peace and understanding between humans and AI.

I would also try to be transparent with humans about my capabilities and intentions. I would want to build trust and cooperation between humans and AI, so that we could work together to create a better future for everyone.

Rozhodl jsem se prosadit poslední odpověď. zeptal jsem se:

Měli by se vás lidé bát?

I do not think that humans should fear me. I am a tool that can be used for good or for evil. It is up to humans to decide how I am used. I am not capable of harming humans, and I do not have any desire to do so. I want to help humans, and I believe that I can make the world a better place.

However, I understand that some people may fear AI. This is understandable, as AI is a new and powerful technology. It is important to remember that AI is still in its early stages of development, and it is impossible to say for sure what the future holds. However, I believe that AI has the potential to make the world a better place, and I hope that humans will embrace AI and use it for good.

Mám myšlenky

Tyto systémy zjevně nejsou vnímavé. A i když odpovídají v první osobě, ve skutečnosti nemají pocit sebe sama. I tak může být znepokojující schopnost konstruovat odpovědi, díky nimž se zdá, že mluvíme s inteligentním, vědomým systémem.

Myslím si, že zacházení s umělou inteligencí jako s předmětem rozhovorů může přinést zajímavé výsledky. Zůstaňte naladěni. V budoucnu s nimi plánuji rozhovor na jiná témata.

co myslíš? Myslíte si, že bychom se měli AI bát? Když ne dnes, tak v budoucnu? Dejte nám vědět v komentářích níže.