Pan Jacek napisał:

>>> Utrzymujesz że chat został celowo tak skonstruowany że udziela
>>> niewłaściwych odpowiedzi na pytania aby profani nie zdołali
>>> skorzystać w jakikolwiek sposób
>> Można i tak to opisać.
> Skoro celem chata nie jest niesienie ludziom pomocy, no to jaki jest
> cel przedsięwzięcia które polega na wynalezieniu, skonstruowaniu,
> utrzymywaniu i reklamowaniu rzeczy kosztownej a nieprzydatnej?

Dziwne pytanie. Dla chleba, panie, dla chleba.

> Czysta złośliwość wynikająca z tego że poszukujący odpowiedzi
> odejdzie z kwitkiem albo wręcz zostanie wprowadzony w błąd?
> Nadzieja że ludzie się nie połapią że chaty wciskają kit a my
> będziemy trwali w chwale postępowców?

Prace nad sztuczną inteligencją prowadzone są w wielu ośrodkach.
Jednak nikt nie stawia sobie za cel skonstruowanie maszyny, która
podobnie jak rabin z Miechowa, będzie w stanie odpowiedzieć na
każde pytanie. Tworzy się narzędzia.

> Ja jestem innego zdania. Uważam że jednak celem chata jest
> niesienie pomocy

Nie jest to zdanie odosobnione. Wielu tak uważa.

> ale został popełniony błąd na etapie projektowania chata.
> Mianowicie, zapomniano wbudować mechanizm umożliwiający chatowi
> powiedzenie "nie wiem" kiedy rzeczywiście czegoś nie wie.

W taki razie trzeba natychniast o tym odkryciu poinformować firmę
OpenAI! Na pewno nikt tego błędu wcześniej nie zauważył. Podejrzewam,
że nie będą chcieli pozostawać dłużni za tak cenną pomoc.

--
Jarek

do góry

On Mon, 18 Mar 2024 09:19:34 +0100, Atlantis <m...@w...pl>
wrote:
> ziemska technologia. Problem w tym, że tych rzeczy nie widać na
> udostępnionych, niewyraźnych filmach.

W "go fast" cos tam widać, co momentalnie się oddala...

--
Marek

do góry

On Mon, 18 Mar 2024 18:37:18 +0100, Jacek <j...@...pl> wrote:
> Skoro celem chata nie jest niesienie ludziom pomocy, no to jaki
> jest cel

Za dużo się naczytałeś Lema i przejaleś jego naiwne podejście do
nauki (postępu technicznego) , że jej osiągnięcia mają komuś pomóc
lub nieść zbawienie ku chwale ludzkości.
Nie, wyszystko co wymyślono powstało po to by robić na tym biznes.
"Pomoc" w tym to tylko skutek uboczny.

--
Marek

do góry

On 2024-03-18, Jarosław Sokołowski <j...@l...waw.pl> wrote:
> Pan Marcin Debowski napisał:
>
>>>> Ale jak przyciśniesz AI to potrafi się skoncentrować i podać prawdziwe
>>>> wartościowe odpowiedzi. Ale trzeba wcześniej wiedzieć, że konfabuluje.
>>> Jak się odpowiednio długo poczeka, to zepsuty zegar pokaże właściwą godzinę.
>>
>> Z tym, że tu jest ten znany paradoks, że taki zupelnie zepsuty pokazuje
>> tę właściwą godzinę na ogół częsciej.
>
> To czyni analogię jeszcze lepszą. Ludzie najczęściej zadają chatowi proste
> pytania, na które znają odpowiedzi. I cieszą się jak gdyby w samo południe
> znaleźli zepsuty zegar, którego obie wskazówki wskazują liczbę 12.

Prawdę mówiąc mam w sobie tyle nieufności do tego typu wynalazków, że
się jak dotąd nie skusiłem nawet na prostą wymianę zdań. Lwia część tej
nieufności wynika mi z uderzjącego podobieństwa do rozmów z obsługą
klienta na rozmaitych "czatach". Dla większości problemów jest to czysta
strata czasu. Rozwiązania problemów prostych zwykle szybciej wynajdę
sam. Przy bardziej skomplikowanych dostanę jakąś generyczną bzdurę,
która mnie tylko podk..i. Uzyskanie ospowiedzi poprawnej na problem
skomplikowany, wymagać będzie mikrozarządzania ludkiem z obsługi
klienta.

--
Marcin

do góry

On 2024-03-18, Jacek <j...@...pl> wrote:
> W dniu 18.03.2024 o 16:33, Jarosław Sokołowski pisze:
>>> Utrzymujesz że chat został celowo tak skonstruowany że udziela
>>> niewłaściwych odpowiedzi na pytania aby profani nie zdołali
>>> skorzystać w jakikolwiek sposób
>> Można i tak to opisać.
> Skoro celem chata nie jest niesienie ludziom pomocy, no to jaki jest cel
> przedsięwzięcia które polega na wynalezieniu, skonstruowaniu,
> utrzymywaniu i reklamowaniu rzeczy kosztownej a nieprzydatnej? Czysta
> złośliwość wynikająca z tego że poszukujący odpowiedzi odejdzie z
> kwitkiem albo wręcz zostanie wprowadzony w błąd? Nadzieja że ludzie się
> nie połapią że chaty wciskają kit a my będziemy trwali w chwale postępowców?
> Ja jestem innego zdania. Uważam że jednak celem chata jest niesienie
> pomocy ale został popełniony błąd na etapie projektowania chata.
> Mianowicie, zapomniano wbudować mechanizm umożliwiający chatowi
> powiedzenie "nie wiem" kiedy rzeczywiście czegoś nie wie.

Z czatem pewnie jest trochę tak jak np. z kodowaniem obrazu wideo. Aby
dostać dobry wynik potrzeba w ten wynik włozyć sporo mocy obliczeniowej
/ czasu. Trzeba poanalizować sekwencje obrazu, jak zmieniają się jego
fragmenty. Wtedy to będzie miało sens. To kupa roboty. Drobiazg, jak
jest jeden gawędzący z taką "AI". Jak są tego tysiące to jakoś to trzeba
optymalizować bo inaczej się nie da. Szybciej (w rozsądnym czasie) to
praktycznie zawsze gorzej. Spodziewam się czegość po tej lini. Jakiejś
złośliwości twórców bym nie zakładał. Juz prędzej biznesowy pragmatyzm
oferujący więcej tego czasu obliczeniowego tym, którzy płacą, kosztem
mas eksperymentujących za darmo.

--
Marcin

do góry

W dniu 18.03.2024 o 23:16, Marek pisze:
> On Mon, 18 Mar 2024 09:19:34 +0100, Atlantis <m...@w...pl>
> wrote:
>> ziemska technologia. Problem w tym, że tych rzeczy nie widać na
>> udostępnionych, niewyraźnych filmach.
>
> W "go fast" cos tam widać, co momentalnie się oddala...
>

Ale to zawsze <64 piksele w skali szarości.

Robert

do góry

W dniu 18.03.2024 o 19:56, Jarosław Sokołowski pisze:
> W taki razie trzeba natychniast o tym odkryciu poinformować firmę
> OpenAI! Na pewno nikt tego błędu wcześniej nie zauważył. Podejrzewam,
> że nie będą chcieli pozostawać dłużni za tak cenną pomoc.
Prędzej czy później sami się połapią.

do góry

W dniu 18.03.2024 o 23:23, Marek pisze:
> On Mon, 18 Mar 2024 18:37:18 +0100, Jacek <j...@...pl> wrote:
>> Skoro celem chata nie jest niesienie ludziom pomocy, no to jaki jest cel
>
> Za dużo się naczytałeś Lema i przejaleś jego naiwne podejście do nauki
> (postępu technicznego) , że jej osiągnięcia mają komuś pomóc lub nieść
> zbawienie ku chwale ludzkości.
> Nie, wyszystko co wymyślono powstało po to by robić na tym biznes.
> "Pomoc" w tym to tylko skutek uboczny.
>
I tu się mylisz, bo te dwie rzeczy są nierozdzielne. "Biznes" można
zrobić tylko wynajdując rzecz pomocną. A jeśli już usiłować je
rozdzielić, to da się wyodrębnić kategorię rzeczy wymyślonej dla pomocy
(no prawie, bo za zysk w tym przypadku bierze się chwałę własną) lecz
nie dla zarobku. Przykładem wolne oprogramowanie czyli choćby Linux z
którego piszę. Znajdziesz też przykłady w medycynie a nawet innych
dziedzinach, kiedy wynalazca nie patentował wynalazku tylko go
udostępniał darmo. Nie da się za to znaleźć przykładów kiedy ktoś zrobił
zysk na rzeczy zupełnie nieprzydatnej. Oczywiście, jest tu pułapka.
Rzecz może być obiektywnie nieprzydatna lecz musi być przydatna
subiektywnie (jak róg nosorożca na potencję).

do góry

On Tue, 19 Mar 2024 08:51:00 +0100, Jacek <j...@...pl> wrote:
> I tu się mylisz, bo te dwie rzeczy są nierozdzielne. "Biznes" można
> zrobić tylko wynajdując rzecz pomocną. A jeśli już usiłować je
> rozdzielić, to da się wyodrębnić kategorię rzeczy wymyślonej dla
> pomocy

Właśnie twoja reakcja świadczy o lemizmie jakim przesiaknąłeś.
Filozofujesz przykłady będące w mniejszości skali. Podstawa jest
taka, że głównym celem wymyślania produktów i narzędzi jest biznes a
nie pomoc.
"Nie ma darmowych obiadów".
Resztę to można zamieść pod marginalną kategorie alturizmu,
społecznictwa czy jakiegokolwiek ogólnie rozumianego idealizmu.

--
Marek

do góry

W dniu 2024-03-18 o 18:37, Jacek pisze:

> Mianowicie, zapomniano wbudować mechanizm umożliwiający chatowi
> powiedzenie "nie wiem" kiedy rzeczywiście czegoś nie wie.

Ludzie mają ten mechanizm wbudowany 'z definicji' ale popatrz na
polityków. Wydaje mi się, że będą bajdurzyć jakieś głupoty byle tylko
nie powiedzieć 'nie wiem'.
Chyba spora grupa ludzi ma jakieś opory przed powiedzeniem 'nie wiem'.

Enigma nie mogła zaszyfrować litery tą samą literą i to była cecha,
która przynajmniej raz pomogła w złamaniu kluczy dnia.

Skoro ludzie potrafią gadać głupoty i nawet z przekonaniem ich bronić
(patrz na płaskoziemców, anty-szczepionkowców itp.) i potrafią też z
premedytacją kłamać to wbudowywanie AI blokowania możliwości zmyślania,
czy kłamania byłoby punktem zaczepienia według którego możny by w teście
Turinga rozpoznać, że gada się z AI a nie człowiekiem, co by oznaczało,
że AI jeszcze nie dorosła do bycia nierozróżnialną od człowieka.
Więc może to jest 'feature' a nie 'bug'.

Sądzę, że chat ma możliwość powiedzenia 'nie wiem' ale jak wielu ludzi
woli udawać, że wie. Takie to ludzkie...
P.G.

do góry