쌀쌀하지만 상쾌한 아침.

벌글로 시작합니다.

참고로 저는 평소 Ai를 그리 자주 쓰지 않을 뿐 더러 

쓰더라도 '절대' 맹신 하지 않습니다. 교차 검증이나 재확인은 필수적으로 합니다.

최근 해외쪽 제품 정보가 필요하던 차에 Ai를 통한 정보수집을 종종 하곤 하는데

G사 Ai 얘 무섭네요.

검증없이 계속 물어보면 실제 존재 하지도 않는 업체, 브랜드를 창조 해 내서

실제 존재 하는 것 처럼 스토리를 계속 만들더군요. 뭔가 이상해서 추궁하면

그제서야 조작이 시작되고 그게 쌓이고 쌓여서 창조 해 냈다고 실토 합니다. 

Ai의 치명적인 오류인 할루시네이션(환각) 이라면서요.  

그래서 Ai는 다 그런가 싶어 C사 Ai에게 비슷한 시나리오로 답변을 유도 해 봤는데

훨씬 덜합니다.(차라리 회피를 하려는 경향이 있다 랄까요?) G사 Ai는 재시도를 해 

보았으나 동일증상이 다시 나타 났고요.

순간 살짝 소름 끼치는 느낌이 듭니다.

이게 단순한 정보 수집이나 재미로 사용 했을 때 나타났고,

재검증이나 교차검증으로 걸러 질 수준의 작업이라면 그런가보다 하고 넘어갈 텐데

앞으로 Ai 활용이 확대 되고 중요한 사안에서 저런 현상이 빈번히 일어 난다면

치명적인 문제가 되지 않을까 하는 생각이 드네요.

물론 그러한 오류도 차츰 개선이 되어 갈 것 이지만,

이미 산업 전반, 생활 곳곳에 Ai가 깊숙히 스며들어 있는 시대인데 시급하게 문제 해결이 

이루어 져야 할 것 같습니다.

뭐 아침에 Ai가 신기한 아저씨가 주저리주저리 생각이 많았습니다.

어.. 어째 끝내야되누.. 뿅!