자동화된 지식 탐구: 거짓말 없는 AI의 시작

현대 인터넷에서 읽는 모든 내용이 사실이 아니란 사실을 깨닫지 못할 수 있습니다. 저는 그럭스의 라마 3 모델에게 노스다코타 주 파고의 날씨를 물어보았을 때, 그 모델은 자세한 정보를 제공했습니다. 하지만 그럭스의 답변은 엄청난 거짓말이었습니다. 우리의 온도 설정이 1로 되어 있어서, LLM은 답변에 상상력을 발휘할 수 있었기 때문입니다. 그것을 0으로 설정하면 정직한 답변을 얻을 수 있었습니다. LLM은 현재 날씨 상황에 대해 전혀 모릅니다. 어떤 종류의 전문 지식을 갖춘 AI 에이전트를 만들고 싶을 때 이는 문제가 됩니다. LLM에서 얻는 답변이 단순히 지어낸 넌센스가 아닌지 확신을 갖고 싶을 것입니다. 그리고 AI가 답변을 모를 경우, 능동적으로 행동하여 필요한 정보를 찾아내기를 바랄 것입니다.

소개합니다. Pocket Grock 라이브러리에서 사용할 수 있는 새로운 AutoGrock 에이전트 기능입니다. AutoGrock 에이전트는 당신이 요청하지 않는 한 거짓말을 하지 않습니다. 더 좋은 점은 AutoGrock 에이전트가 답을 모르는 경우 인터넷을 뒤져서 찾아낼 것입니다. 그동안 그럭스가 즉시 답변을 반환하는 데 익숙하다면 이 지연은 걱정스러울 수 있습니다. 하지만 몇 초 후면 알게 되듯이 우리 에이전트는 실제로 매우 바쁩니다. 진행 상태를 알려주는 알림이 표시되면 진행 중임을 알 수 있으며, 곧 답변이 나옵니다. LLM은 현재 지식이 없다는 점을 기억하세요. 우리의 AutoGrock 에이전트는 처음에는 파고의 날씨가 무엇인지 몰랐지만, 스스로 학습 과정을 거쳐 알아냈습니다. 살펴보죠.

2단계에서 첫 번째 답변이 “저는 단지 LLM일 뿐입니다. 아무 것도 모릅니다.”라는 표준답이었음을 알 수 있습니다. 3단계에서 우리 에이전트는 약간의 자기 성찰을 거쳐 “모른다”는 답변이 불만족스럽다고 판단합니다. 다음으로 검색어를 생성하고 웹 검색을 실행하여 정보 출처 10개를 찾습니다. 우리 에이전트는 만족할 만한 답을 찾을 때까지 이러한 출처를 하나씩 참조합니다. 이제 답변을 얻는 데 몇 초가 걸리는 이유를 알 수 있습니다. 16단계로 건너뛰면 흥미로운 것을 발견할 수 있습니다. 우리 에이전트는 해당 출처에서 날씨 상태를 찾았지만, 검토 결과 정보가 믿을 만하지 않아 계속해서 살펴보았습니다. 그것을 한 것이 좋았습니다. 해당 날씨 정보는 정확하지 않았습니다. 20단계까지 우리 에이전트는 자신 있게 정답으로 제시할 만한 정보를 찾았고, 그렇게 했습니다. 잠깐 더 시연을 해 보겠습니다. 애리조나의 시청자 여러분, 화면에서 눈을 돌리세요. 돌아가세요. 저는 축구에 대해 아무 것도 모르는 것 같고, 애리조나 카디널스도 마찬가지입니다. 우아하게 물러나세요. 그렇지 않으면 AI 팁이 J로 가입하고 좋아요를 클릭하세요. AI 팁이 J, 후라! AI 팁이 J는 JG.US의 저작권으로 보호되는 제작품입니다. 모든 권리는 AI 팁이 J에 있습니다.