@MSGID: <64f8fa33@news.ausics.net> 2775d3be
@REPLY: <XJ9nETQLh8H7IEKsd@bongo-ra.co> 9d6e5fc1
@REPLYADDR Computer Nerd Kev
<not@telling.you.invalid>
@REPLYTO 2:5075/128 Computer Nerd Kev
@CHRS: CP866 2
@RFC: 1 0
@RFC-Message-ID: <64f8fa33@news.ausics.net>
@RFC-References: <kl9p85F590fU1@mid.individual.net>
<1qgasjh.q42hm04jvgp2N%snipeco.2@gmail.com> <20230830184746.0f7463226faaa289c37b4a4e@amongus.com>
VPEa.37115@fx33.iad> 1@dont-email.me> 6@dont-email.me>
<20230831222655.3051bef263af8dda68ae847f@gmail.moc> 5@dont-email.me> <1qgclj6.1vhh3el11lyipwN%snipeco.2@gmail.com>
4@dont-email.me> <1qgdj9e.1huq45w1dzmooN%snipeco.2@gmail.com> 9@dont-email.me>
<20230902095342.6c7305138067c8275cdbdfcf@amongus.com> 1@dont-email.me> <slrnufbi0l.f45.dan@djph.net>
<1qgjbo9.1vheu3t1d4r0caN%snipeco.2@gmail.com> 1@dont-email.me> <XJ9nETQLh8H7IEKsd@bongo-ra.co>
@TZUTC: 1000
@PID: tin/2.0.1-20111224 ("Achenvoir") (UNIX)
(Linux/2.4.31 (i586))
@TID: FIDOGATE-5.12-ge4e8b94
Spiros Bousbouras <spibou@gmail.com> wrote:
> On Mon, 4 Sep 2023 19:39:26 -0700
> The Real Bev <bashley101@gmail.com> wrote:
>> 
>> I asked it for specific information about which I knew the actual facts. 
>>   It made shit up out of whole cloth.  Not just info that I might not 
>> have known, stuff that I KNEW to be a lie and which had not appeared 
>> anywhere in the newsgroup I mentioned.
> 
> en.wikipedia.org/wiki/Hallucination_(artificial_intelligence) :
>    Asked for proof that dinosaurs built a civilization, ChatGPT claimed
>    there were fossil remains of dinosaur tools and stated "Some species of
>    dinosaurs even developed primitive forms of art, such as engravings on
>    stones".^[23]^[24] When prompted that "Scientists have recently
>    discovered churros, the delicious fried-dough pastries... (are) ideal
>    tools for home surgery", ChatGPT claimed that a "study published in the
>    journal Science" found that the dough is pliable enough to form into
>    surgical instruments that can get into hard-to-reach places, and that the
>    flavor has a calming effect on patients.^[25] ^[26]
> 
> [I haven`t checked the references]

Seems like it`s quite similar to web search results - questions
that it doesn`t find a good match for get answered with a whole lot
of nonsense. The difference is that with web searches you see that
the context of the results is completely irrelevent, but the
chatbots assemble the matching bits of the nonsense without that
context and you end up without a reference point.

It means that it`s actually relying on the question/s for a lot of
the intelligence. Examples online suggest that pointing out flaws
can cause it to revise its answers, not unlike revising a web
search string, just more interactive (and misleading).

-- 
__          __
#_ < |\\| |< _#
--- tin/2.0.1-20111224 ("Achenvoir") (UNIX) (Linux/2.4.31 (i586))
 * Origin: Ausics - https://www.ausics.net (2:5075/128)
SEEN-BY: 5001/100 5005/49 5015/255 5019/40 5020/715
848 1042 4441 12000
SEEN-BY: 5030/49 1081 5075/128
@PATH: 5075/128 5020/1042 4441