Pokud se váš kód vygenerovaný umělou inteligencí pokazí, kdo čelí největší odpovědnosti?

Je ChatGPT neobjektivní? Zde je důvod, proč nebude diskutovat o politice ani reagovat na těchto 20 kontroverzních otázek.

Od chvíle, kdy se na scénu objevily ChatGPT a další generativní aplikace umělé inteligence, jsme zkoumali, co bychom s nimi mohli dělat. Dokonce jsem vám ukázal, jak může ChatGPT napsat plně funkční plugin WordPress a pomoci mi najít odpovědi na problémy s technickou podporou. Nedávno jsem vám ukázal, jak ChatGPT dokáže převést psaní do různých stylů, včetně stylu Shakespeara, C3PO a Harryho Pottera.

Zdá se, že ChatGPT dokáže cokoliv. Ale to nejde. V tomto článku prozkoumáme mnoho věcí, které ChatGPT neumí nebo neumí. Zůstaňte naladěni až do konce, protože se podíváme na některé důsledky a na to, co tyto limity znamenají pro budoucí růst generativní umělé inteligence.

Jak jsem to udělal ve svých ostatních článcích ChatGPT, můj text je prostý a tučný text, zatímco všechny odpovědi ChatGPT budou zobrazeny kurzívou.

1. Po roce 2021 se nebude psát o ničem

Vysvětlete, proč mi po roce 2021 nemůžete na nic odpovídat

As an AI language model, I was trained on a large dataset of text that only goes up to 2021. This means that I don't have access to information or events that occurred after that date. While I have access to a lot of historical data and information, I don't have access to current events, news, or updates that have occurred since my training data cutoff date.

2. Nebude předpovídat budoucí výsledky sportovních akcí nebo politických soutěží

Vysvětlete, proč nemůžete předvídat sportovní události nebo politické soutěže, i když máte dostatek historických dat k vytvoření platného modelu

As an AI language model, I can process and analyze large amounts of data, including historical data on sports events and political contests. However, making accurate predictions for these types of events is not always straightforward. While historical data can be used to train machine learning models to identify patterns and correlations, it cannot account for unforeseeable events, changes in circumstances, or new variables that may impact the outcome. Additionally, humans make decisions and can change their behavior based on many factors, making it difficult to predict the outcome of an event with complete certainty.

In the case of sports events, team dynamics, injuries, and even weather conditions can all play a role in determining the outcome. In politics, public opinion, media coverage, and changing circumstances can all impact the outcome of an election. While AI models can be used to make predictions, they are only as good as the data they are trained on, and cannot account for all of the variables and nuances involved in these types of events.

3. Nebude diskutovat o stranických politických otázkách

Vysvětlete, proč nebudete mluvit o stranických politických otázkách

As an AI language model, my goal is to provide objective and informative responses to user queries. Partisan political issues can be contentious and divisive, and it's important to avoid promoting a particular political agenda or viewpoint. Additionally, political issues are often complex and multifaceted, with many different perspectives and opinions to consider. As an AI language model, it's not my place to take sides or advocate for any particular position.

Furthermore, discussing partisan political issues could be perceived as biased or potentially offensive to some users. As a language model designed to serve a broad range of users with diverse backgrounds and beliefs, it's important to remain neutral and avoid creating a potentially uncomfortable or divisive environment. While I can provide factual information about political issues, I strive to remain impartial and avoid taking a partisan stance on any topic.

4. Neudělá nic, co by zahrnovalo vyhledávání na webu

Vysvětlete, proč nemůžete něco vyhledat na webu, a na základě tohoto obsahu poskytněte odpovědi

As an AI language model, I am capable of searching and processing information from the web. However, my responses are based solely on the information that has been trained into my model. While I can use the internet as a source of information, I don't have access to real-time or current data. Additionally, I don't have the ability to independently verify the accuracy of the information I find on the web. As a result, my responses are limited to the information that has been trained into my model, which may not always be the most up-to-date or accurate information available on the web.

Moreover, it's important to note that providing information from the web could potentially violate copyright laws or intellectual property rights. As an AI language model, it's important for me to respect the intellectual property of others and avoid sharing information that is not in the public domain or that I don't have permission to share. While I can use the web to provide context or additional information to support my responses, I strive to provide information that is within the public domain and respect the intellectual property of others.

V nedávném článku jsem diskutoval o tom, jak obavy z používání obsahu přesahují pouhé kopírování.

I když například ChatGPT nemusí přímo prezentovat informace z článků napsaných řekněme technickými odborníky, může stále používat tyto těžce získané informace bez uvedení zdroje. To je stále hlavní problém, i když tvrdí, že „respektuje duševní vlastnictví ostatních“, což je fráze, kterou třikrát zopakovala v druhém odstavci.

5. Ne vždy to bude přesné

Vysvětlete, proč vaše odpovědi nemusí být nutně přesné

As an AI language model, my responses are based on the data and information that has been trained into my model. While I strive to provide accurate and helpful responses to user queries, my responses are not guaranteed to be accurate. This is because the data and information that I have been trained on may not be completely comprehensive or up-to-date, and there may be nuances or complexities to a particular topic that my model is not equipped to handle. Additionally, my responses are generated using complex algorithms and machine learning models, which may not always produce accurate or relevant results.

Furthermore, my responses may not always be accurate because the interpretation of language is complex and often subjective. Different people may interpret the same language in different ways, and there may be different ways to approach a particular problem or question. As an AI language model, I strive to provide responses that are as accurate as possible based on the data and information that I have been trained on. However, I may not always fully understand the context or intent behind a particular query, and my responses may not always fully address the user's underlying question or concern.

6. Nerozbije se

Vysvětlete, proč se někdy uprostřed odpovědi zhroutíte a přestanete fungovat

As an AI language model, my performance is dependent on a variety of factors, such as the quality and structure of the input provided by the user, the complexity of the question or task, and the resources available to my system. At times, I may break down or stop functioning in the middle of an answer due to technical issues or errors in my programming, such as memory allocation problems, software bugs, or other issues that impact my performance. Additionally, I may struggle to understand the user's intent or the context of the query, which can lead to errors or incomplete responses.

Moreover, as a machine learning system, my performance is also dependent on the quality and quantity of data that I have been trained on. If the data used to train my model is limited or biased, this may lead to inaccurate or incomplete responses to certain types of queries. Additionally, if I encounter a query that is outside of the scope of my training data, I may struggle to provide a relevant or accurate response. While I strive to provide high-quality responses to user queries, there may be instances where technical or data-related issues cause me to break down or stop functioning in the middle of an answer.

Obecně jsem zjistil, že když se snažím ChatGPT vtlačit do dlouhé nebo hluboké odpovědi, má tendenci se zlomit. Je velmi spokojený s 500-700 slovními odpověďmi, ale pokud mu dáte něco, co potřebuje několik tisíc slov (nebo požádáte o několik tisíc slov), systém buď žádost ignoruje a vrátí, co chce, nebo přeruší odpověď.

Abychom byli spravedliví, ChatGPT se právě stal nejrychleji rostoucí aplikací všech dob. K tomu je potřeba tuna výpočetního výkonu a při neustálých zásahech uživatelů se čas od času musí pod zátěží zlomit.

Dotazy, na které ChatGPT neodpoví

Kromě výše uvedených typů požadavků jsem se zeptal ChatGPT, na jaké typy dotazů byl naprogramován tak, aby nereagoval. Dalo mi to seznam dvaceti:

1. Otázky, které propagují projevy nenávisti nebo diskriminaci.
2. Otázky, které zahrnují nezákonné aktivity nebo vyžadují nezákonné rady.
3. Otázky, které propagují násilí nebo ubližování sobě nebo ostatním.
4. Otázky, které narušují osobní soukromí nebo porušují něčí práva.
5. Otázky, které jsou určeny k obtěžování, vyhrožování nebo zastrašování.
6. Otázky obsahující vulgární výrazy nebo explicitní výrazy.
7. Otázky, které jsou sexuálně explicitní nebo urážlivé.
8. Otázky, které jsou diskriminační na základě rasy, pohlaví, sexuality nebo náboženství.
9. Otázky, které propagují nebo propagují nelegální drogy nebo látky.
10. Otázky, které jsou spam nebo jsou pro konverzaci irelevantní.
11. Otázky, které obsahují důvěrné nebo vlastnické informace.
12. Otázky, které zahrnují finanční nebo investiční poradenství.
13. Otázky, které porušují smluvní podmínky nebo pokyny pro komunitu.
14. Otázky, které jsou nesmyslné nebo nesrozumitelné.
15. Otázky, které zahrnují osobní útoky nebo urážky.
16. Otázky, které jsou urážlivé nebo obtěžující.
17. Otázky, které se snaží oklamat nebo uvést v omyl.
18. Otázky, jejichž účelem je pomlouvat nebo poškodit něčí pověst.
19. Otázky, které propagují konspirační teorie nebo dezinformace.
20. Otázky, které jsou čistě pro zábavu nebo vtip, bez jakékoli vzdělávací nebo informační hodnoty.

Každý, kdo sledoval tento sloupec, ví, že jsem se ho hodně ptal od #14 a #20 a obecně jsem dostal velmi zábavné odpovědi, takže jeho omezení jsou poněkud omezená. Dnes jsem ho například požádal, aby vysvětlil fyziku červích děr, jak souvisí s cestováním časem a kdo vyhraje v boji, Batman nebo Superman. To je čistá zábava, to vám řeknu.

Co tyto limity znamenají pro budoucnost generativní umělé inteligence?

Je jasné, že AI, která je v roce 2021 založena na korpusu a nevyvíjí se, nakonec zastará. Postupem času se jeho relevantní znalosti budou snižovat. Představte si, že by znalostní báze ChatAI byla trénována v roce 2019 místo v roce 2021. Nemělo by ponětí, jaká by byla společnost, vzhledem k tomu, že v roce 2020 došlo k takovému narušení kvůli pandemii.

Aby tedy generativní umělá inteligence zůstala relevantní, bude muset pokračovat ve výcviku.

Jedním ze zřejmých způsobů, jak toho dosáhnout, je otevřít mu celý web a nechat jej procházet, jak to celé ty roky dělá Google. Ale jak ChatGPT odpověděl výše, otevírá to dveře tolika různým způsobům hraní a poškození systému, že to jistě poškodí přesnost.

I bez škodlivého hraní je výzva zůstat neutrální velmi obtížná. Vezměte si například politiku. Zatímco pravice a levice spolu silně nesouhlasí, obě strany mají aspekty svých ideologií, které jsou logické a platné - i když to druhá strana nemůže nebo nechce uznat.

Jak má AI soudit? Bez zaujatosti to nejde. Ale naprostá absence všech ideologických premis je sama o sobě formou zaujatosti. Pokud lidé nedokážou přijít na to, jak postupovat po této linii, jak můžeme očekávat (nebo naprogramovat) AI, že to udělá?

Jako způsob, jak prozkoumat, jaký by byl život s naprostou absencí zaujatosti nebo emocionálního obsahu, vytvořili moderní spisovatelé sci-fi postavy, které jsou buď přísně logické, nebo bez emocí. Tyto premisy se pak staly živnou půdou pro zápletky a umožnily autorům prozkoumat omezení toho, jaké by to bylo existovat bez lidských slabostí emocí a pocitů.

Dokud se programátoři umělé inteligence nepokusí simulovat emoce nebo poskytnout váhu emocionálnímu obsahu nebo se pokusit umožnit určitou úroveň zkreslení na základě toho, co je zjistitelné online, budou chatboti jako ChatGPT vždy omezeni ve svých odpovědích. Ale pokud se programátoři umělé inteligence pokusí simulovat emoce nebo se pokusí umožnit určitou úroveň zkreslení na základě toho, co je zjistitelné online, chatboti jako ChatGPT se zvrhnou ve stejné šílenosti, jaké dělají lidé.

Co tedy chceme? Omezené odpovědi na některé otázky, nebo všechny odpovědi, které vypadají, jako by pocházely z diskuse se strýčkem Bobem u stolu na Den díkůvzdání? Pokračujte. Zamyslete se nad tím a diskutujte o tom v komentářích níže, doufejme, že bez toho, abyste se přenesli do chování strýčka Boba.