[잡담] 우와 챗GPT 굉장히 위험하네요

아래글에 덧글작성하느라 

교차로통행법위반 벌금을 GPT돌렸는데

교차로에서 차선변경이 문제없다고??

교차로 통행법 위반 아냐?

갑자기 맞다고함

아까는 아니라며 어느게 맞는거야??

근거가지고 얘기안할래??

급사과함

모르는 사람이 첫질문만하고 끝냈으면

잘못된 정보로 결론도출되네요

꼭 2개 이상 어플써서 교차검증 필수입니다

[FLOW.T]

AI들 보면 잘못된 정보를 그럴싸하게 말하는 건 도가 텄더라고요.

저래놓고 틀린 거 지적하면 "정확히 지적하셨어요! 그건 틀린 게 맞아요"라고 하는 게 진짜 얄미운...

이러니 저러니 크로스체크는 반드시 필요하고, 그걸 검수할 수 있는 지식은 충분히 갖추고 있는 사람이 "일머리는 없지만 일은 열심히 하는 부하 직원" 같은 존재로 쓸만한 것 같습니다 ㅎㅎ

[BLACK SQUARE]

일머리는 없지만 열심히 일하는 부하직원 ㅋㅋㅋ 한방에 이해가네요

[슈뢰딩거 고양이]

환각률 48% 라고 하니
무조건 믿는건 위험하죠

[BLACK SQUARE]

ㅎㄷㄷ 거의 반이네요

[M12]

생각 확장하면서 기획이나 생각하는거 말고 정보들 긁어서 검색하는 건 검증 필수인 것 같아요. 저는 메모리에 출처가 티스토리면 참고하지 말라고 넣어놨어요.....
가끔 잘못 말하는 것들 나오면 갈구면서 다그치는데, 수정약속을 해도 그건 일시메모리라서 그 대화세션에서만 기억되는 경우라고 하더라고요.

[아틴]

AI 가 이야기해준건 반드시 교차검증 해야지, 안 그럼 위험합니다 .

[잠깐나와있어서]

말 지어내지 말고 모르면 모른다고 말하라고 매번 싸우고 있습니다
그냥 윽박지르는 컨텐츠로 생각하고 사용중이예요

[사방이적]

거지같아서 결제 취소했습니다. 잘못된 정보를 너무 당당하게 우겨요 ㅋㅋ

[멋진 신세계]

챗 gpt도 잘 사용하려면 그에 맞게 공부를 해야되는것 같아요 자신이 모르는 분야에 검색했다가 그게 진짜인지 아닌지 구분하기가 쉽지 않음 근대 그럴꺼면 또 챗 gpt를 사용해야되는가 싶기도 해요 모르는걸 쉽게 가르쳐 달라고 하려는건데 그 AI를 믿을수있냐는 또 문제라서

[루리웹-8933664152]

chatgpt가 o3 나올때 쯤 부터 확 이상해 졌어요. 점점 틀린 답을 더 강력하게 우기는 형태로 진화하고 있는 것 같더군요.

[당근천국]

그래서 잘 줘팰수록 좋은 답변을 받을 수 있죠 ㅋㅋㅋㅋㅋ

[장동건]

오답을 태연하게 정답 처럼 이야기 합니다 .반드시 확인에 재확인 해야해요.

[Kopite]

법률이나 규정에대해선 그 법령이나 규정을 집어넣고 노트북 LM같은걸 쓰면 환각이 없습니다

[아르미드]

할루시네이션 정말 조심해야하죠.. 너무 그럴싸하게 말해서.. 제미나이도 비슷하더라구요