Tag: AI 안전성

AI의 자율적 AI 연구 개척: OpenAI의 MLBench

### 오픈AI, AI가 자기 개선하는 "MLBench" 공개 오픈AI가 기계 학습 엔지니어링에서 AI 에이전트 성능을 측정하는 벤치마크인 MLBench를 출시했습니다. 이는 AI가 AI 연구를 혁명적으로 변화시킬 가능성에 대한 중요한 발걸음입니다. MLBench는 실제 세계 기계 학습 엔지니어링 기술을 테스트하는 Kaggle 대회에서 파생되었습니다. AI 연구원과 전문가는 일반적으로 AI 연구 또는 기계 학습 엔지니어링에 사용하는 이산적 기술 집합을 보유하고 있습니다. MLBench는 모델 훈련, 데이터 세트 준비, 실험 실행과 같은 이러한 기술을 테스트합니다. 오픈AI는 MLBench에서 자체 AI 모델과 개발 워크플로를 실험했습니다. 최상의 성능을 보인 조합은 모델 "gpt-4"와 개발 워크플로 "Aid"였으며, 이는 Kaggle 대회에서 17.7%의 동메달을 획득했습니다. ### AI의 자율적 AI 연구…

**노벨상을 받은 AI의 대부 Jeffrey Hinton의 통찰력**

Jeffrey Hinton은 AI 분야에서 많은 학생을 키운 것에 큰 자부심을 가지고 있습니다. 그중 한 명은 OpenAI에서 Sam Altman을 해고한 일로 유명한 Ilia Sutskever입니다. Hinton은 Altman의 리더십에 동의하지 않으며 Altman이 이윤을 안전성보다 우선시한다고 믿고 있습니다. Hinton은 Thanks Giving 주변 3일 동안 Sam Altman이 해고된 사건에 대해 언급하며 그 사건이 올바른 결정이었다고 자랑스럽게 생각한다고 말했습니다. 현재 Hinton은 물리학 분야에서 노벨상을 수상했으며 일부 물리학자들은 컴퓨터 과학자에게 노벨상을 수여한 것에 불만을 표시했습니다. Hinton의 AI에 대한 주요 공헌 중 하나는 신경망에 대한 아이디어였습니다. Hinton은 신경망이 현재와 같이 효과적으로 작동할 수 있다는 아이디어가 유행하지 않았던 시기에 이 아이디어에…