AI Index Report / 스탠포드

스탠포드 인간 중심 인공 지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence, HAI)가 발간한 2024년 AI 인덱스를 IEEE Spectrum지가 요약했습니다. 지난 3년 간의 추이를 검토하여 AI 전반의 현황을 잘 요약하는 주요 통계가 포함되어 있습니다. 이번 보고서에는 책임 있는 AI 활용과 과학·의료 분야의 AI 적용 등 새로운 내용이 추가되었으며, 특히 Spectrum지에서 다룬 생성형 AI의 시각적 표절 문제가 보고서에 인용되었다는 점이 주목할 만하다.

Issued : MAR 2024

IEEE :스탠포드 보고서 요약

1. 생성형 AI 투자 폭증

• 2023년 기업들의 생성형 AI 투자가 급증
• ChatGPT와 DALL-E 2 같은 제너레이티브 AI 시스템의 새로운 기능과 위험에 대한 세계적인 관심을 반영
• 생성형 AI 투자 붐은 주로 미국에서 발생

2. 구글이 파운데이션 모델 경쟁에서는 주도권 확보

• 파운데이션 모델은 GPT-3, GPT-4 등 다양한 AI 애플리케이션의 기반이 되는 대규모 다목적 모델
• 업계가 대부분의 파운데이션 모델을 만들고 있고, 학계의 기여는 적음
• 2023년 가장 많은 파운데이션 모델을 출시한 기업은 구글

3. 폐쇄형 모델이 개방형 모델보다 성능이 우수

• 파운데이션 모델을 개방형으로 할지 폐쇄형으로 할지를 둘러싼 논쟁이 있음
• 성능 측면에서는 폐쇄형 모델이 개방형 모델보다 우위
• 이 논쟁은 주로 위험 문제에 집중되고 성능 차이에 대한 논의는 아직 부

4. 파운데이션 모델 훈련 비용 급증

• 대규모 파운데이션 모델을 훈련하려면 막대한 자금이 필요
• 2017년 구글의 트랜스포머 모델 훈련 비용은 930달러에 불과했지만 최근 비용이 증가

5. 파운데이션 모델의 탄소 발자국 증가

• 대규모 언어 모델의 탄소 발자국은 AI 모델의 크기, 데이터 센터 에너지 효율, 에너지 그리드 탄소 강도 등 다양한 요인에 따라 상이
• 모델이 일일 수백만 번 이상 사용될 때의 추론을 위한 에너지 소비는 훈련 과정의 에너지 소비를 능가할 것으로 예

6. 미국이 파운데이션 모델 분야를 선도

• 파운데이션 모델 출시 수, 주요 기술 발전 AI 시스템 수 등에서 미국이 선두를 크게 우위
• 중국은 AI 특허 등록 수, 산업용 로봇 설치 대수 등에서 우

7. 산업계가 신규 AI 박사를 지속적으로 유치

• 2022년 북미 지역 신규 AI 박사 학위 취득자의 70%가 업계로 진출
• 최근 몇 년간 지속적으로 증가 추세

8. 다양성이 개선 중

• 비백인, 여학생의 AP 컴퓨터 공학 시험 응시자 수가 늘어나는 등의 변화 추
• 하지만, 컴퓨터공학 학사 학위 취득자 중 여성 비율은 거의 변화가 없음

9. 기업들의 AI에 대한 관심 증가

• Foutune 500대 기업의 약 80%가 실적 발표 시에 AI를 언급
• 기업 의사결정권자들 사이에 “AI를 활용하지 않으면 뒤처질 것”이라는 인식 확산
• 전체 기업의 55%가 적어도 한 개 사업부에서 AI를 도입

10. 비용 감소, 수익 증가

• AI 도입으로 기업 비용은 42% 감소하고 수익은 59% 증가
• AI는 다양한 분야에서 근로자 생산성과 효율성을 높이는 것으로 확인

11. 기업들도 AI 위험을 인식

• 기업들이 가장 큰 위험으로 꼽는 것은 개인정보 및 데이터 거버넌스
• 알고리즘 편향성과 같은 공정성 문제는 아직 주요 관심사로 번지지 않음
• 대부분의 기업이 관련 위험에 대응하여 최소 한 가지 이상의 책임있는 AI 조치를 시행

12. 아직은 AI가 모든 것을 이기진 못함, 하지만…

• 여전히 복잡한 인지 과제에서는 인간이 AI를 능가
• 하지만, AI 성능 향상 속도가 빨라져 벤치마크에서 빠르게 높은 수준에 도달
• AI 혁신 속도 / COATUE

13. AI 책임성 규범 개발 중

• AI 모델을 유해한 언어 출력, 편향성, 진실성 등의 책임 있는 AI 벤치마크로 테스트하는 것이 중요해짐
• 하지만 개발자들이 서로 다른 벤치마크를 사용해 모델 간 비교가 어려

14. AI를 진흥시키기도 제한하기도 하는 법규

• 2016년부터 2023년 사이 33개국에서 AI 관련 법을 최소 1개 이상 제정
• AI 역량 강화를 목적으로 하는 “진흥형” 법안과 AI 응용 및 사용을 제한하는 “제한형” 법안이 공존
• 전반적으로 제한적 입법이 증가하는 추세

15. AI에 대한 불안감 증가

• 응답자의 과반수가 AI에 대해 불안감을 느끼고 있으며 전년 대비 증가
• 67%의 사람은 향후 수년 내 AI가 일상생활에 큰 변화를 가져올 것이라고 예상
• “AI 비관주의”는 주로 서구 선진국에서 두드러지며, 인도네시아, 태국 등 국가에서는 AI의 혜택에 대해 기대

AI Index Report 2025 : 스탠포드 보고서 Highlight

https://aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_AI-Index-Report-2024.pdf

Chapter 1. 연구 개발

1. AI 산업이 연구를 지배
   • 2023년 산업계는 51개의 주목할 만한 기계 학습 모델을 생산, 학계는 15개 기여.
   • 2023년에 산업계와 학계 협력으로 21개의 주요 모델이 나와 사상 최고치 기록.
2. 더 많은 기초 모델과 개방형 모델
   • 2023년에는 2022년 대비 두 배 이상의 기초 모델이 출시됨.
   • 새로운 모델 중 65.7%가 오픈소스.
3. 선두 모델의 비용 증가
   • 최첨단 AI 모델 훈련 비용이 급증하여 사상 최고 수준에 도달.
   • 예를 들어, OpenAI의 GPT-4는 훈련에 $78백만, Google의 Gemini Ultra는 $191백만 소요.
4. 미국이 중국, EU, 영국을 리드
   • 2023년 미국 기반 기관에서 61개의 AI 모델이 나와 유럽연합의 21개와 중국의 15개 보다 많음.
5. AI 특허 수의 급증
   • 2021년에서 2022년 사이에 전세계 AI 특허 취득이 62.7% 급증.
   • 2010년 이후 AI 특허 수는 31배 이상 증가.
6. 중국이 AI 특허 주도
   • 2022년 중국이 전 세계 AI 특허 출원의 61.1%를 차지하면서 미국을 앞섬
   • 2010년 이후 미국의 특허 비중은 감소.
7. 오픈소스 AI 연구의 폭발적 증가
   • 2011년 이후 GitHub에서 AI 관련 프로젝트 수가 꾸준히 증가해 2023년에는 약 180만 개로 증가.
8. AI 출판물 수 증가 지속
   • 2010년부터 2022년 사이에 AI 관련 출판물 수가 88,000개에서 240,000개 이상으로 증가.

Chapter 2. 기술적 성능

1. AI는 일부 작업에서 인간을 능가
   • AI는 이미지 분류, 시각적 추론, 영어 이해 등 여러 벤치마크에서 인간의 성능을 초과
   • 하지만, 경쟁 수준의 수학, 시각 상식 추론, 계획과 같은 더 복잡한 작업에서는 뒤쳐짐.
2. 다기능 AI의 도래
   • 전통적 AI 시스템은 범위가 제한
   • 최근 Google의 Gemini와 OpenAI의 GPT-4와 같은 강력한 다기능 모델의 개발로 텍스트 이해는 물론 이미지 처리, 일부 경우 오디오 처리까지 가능.
3. 더 어려운 벤치마크 출현
   • AI 모델이 기존 벤치마크에서 성능 포화에 도달하자 연구자들은 SWEB, HEIM, MMMU, MoCa, AgentBench, HaluEval 등과 같이 더 도전적인 새로운 벤치마크를 개발.
4. 더 나은 AI는 더 나은 데이터를 의미하고 이는 더욱 향상된 AI를 의미
   • SegmentAnything, Skoltech 등의 새로운 AI 모델은 이미지 분할, 3D 재구성 등 특화된 데이터 생성에 사용되며 AI 기술 개선에 필수적인 데이터를 제공.
5. 인간 평가의 중요성 증가
   • 고품질의 텍스트, 이미지, 기타를 생산하는 생성 모델로 인해 Chatbot Arena Leaderboard와 같은 인간 평가가 AI 진보 추적에서 중요해짐.
6. LLM 덕분에 로봇이 더 유연해짐
   • 언어 모델과 로봇 공학의 융합으로 인해 PaLM-E, RT-2와 같이 실세계와 상호작용할 수 있는 더 유연한 로봇 시스템이 등장함.
7. 에이전트 AI에 대한 기술 연구 증가
   • 특정 환경에서 자율적으로 작동할 수 있는 AI 에이전트를 만드는 것은 오랫동안 컴퓨터 과학자들에게 도전 과제였음.
   • 현재의 에이전트는 마인크래프트와 같은 복잡한 게임을 마스터하고 온라인 쇼핑, 연구 지원과 같은 실제 작업을 효과적으로 처리 가능.
8. 폐쇄 LLM이 개방형 모델을 크게 앞섬
   • 선택된 AI 벤치마크에서 폐쇄 모델이 개방형 모델보다 중간 성능에서 24.2% 높은 성능을 보임.
   • 폐쇄형과 개방형 모델의 성능 차이는 AI 정책 토론에 중요한 영향을 미침.

Chapter 3. AI 윤리 및 책임성

1. LLM의 책임에 대한 평가 부족
   • 책임 있는 AI 보고에 대한 표준화가 미흡하고 심각한 수준임.
   • OpenAI, Google, Anthropic 등은 자신들의 모델을 여러 방법으로 AI 벤치마크 하고 있어 이는 AI 모델의 위험과 한계를 체계적으로 비교하는 데 어려움.
2. 정치적 딥페이크 생성 및 탐지 어려움
   • 정치적 딥페이크는 이미 전 세계 선거에 영향.
   • CounterCloud와 같은 새로운 프로젝트는 AI가 얼마나 쉽게 가짜 콘텐츠를 만들고 퍼트릴 수 있는지 보여줌.
3. LLM에서 더 복잡한 취약점 발견
   • 기존의 적대적 프롬프트 테스트는 인간에게 직관적으로 이해되는 것에 중점.
   • 올해 연구자들은 LLM이 무작위 단어를 무한 반복하는 것과 같은 해로운 행동을 하도록 하는 덜 명확한 전략을 발견함.
4. AI의 위험, 전 세계 기업에게 우려
   • 글로벌 설문조사에서 기업들이 가장 걱정하는 AI 관련 우려는 프라이버시, 데이터 보안, 신뢰성 등임.
   • 조직들은 이러한 위험을 완화하기 위한 조치를 시작했으나 대부분의 회사는 이러한 위험 중 일부 만을 개선.
5. LLM, 저작권 있는 자료를 활용
   • 생성 모델은 뉴욕 타임스 기사 발췌문이나 영화 장면과 같은 저작권이 있는 자료를 활용한다고 밝혀짐.
   • 이러한 출력이 저작권 위반에 해당하는지 여부는 법적 판단 필요.
6. AI 개발자들, 투명성이 부족하고 낮은 점수
   • 연구자들은 훈련 데이터와 방법론 공개에 대한 개방성이 부족하고 AI 시스템의 신뢰성과 안전성을 이해하는데 어려움.
7. 극단적 AI 위험 분석 어려움
   • 단기 모델 위험과 잠재적 장기 존재 위협에 대한 초점 사이에서 AI 학자들과 실무자들 사이에 상당한 논쟁이 있음.
8. AI 사고 증가
   • AI 사건 데이터베이스에 따르면 AI 남용과 관련된 사건이 2023년에 123건 보고되어 2022년 대비 32.3% 증가.
9. ChatGPT, 정치적 편향 있음
   • 연구자들은 ChatGPT가 미국의 민주당과 영국의 노동당에 대한 편향을 발견함.
   • 이는 주요 글로벌 선거가 있는 해에 AI 도구가 사용자의 정치적 견해에 영향을 줄 수 있다는 우려를 제기.

Chapter 4. 경제

1. 생성 AI 투자의 급증
   • 전체 AI 사설 투자는 감소했으나 생성 AI 분야는 2022년 대비 $25.2억으로 급증함.
2. 미국, AI 사설 투자에서 더욱 앞서나가
   • 2023년 미국의 AI 투자는 $672억으로 2위 중국보다 8.7배 많음.
3. 미국과 전 세계의 AI 관련 일자리 감소
   • 2022년 AI 관련 포지션은 미국 내 채용 공고의 2.0%를 차지했으나 2023년에는 1.6%로 감소.
4. AI는 비용을 줄이고 수익을 증대
   • 맥킨지의 새로운 조사에 따르면, 조사 대상 조직의 42%가 AI 도입으로 비용이 줄었고, 59%는 수익이 증가했다고 보고함.
5. AI 투자는 감소하나 새로운 AI 회사 수는 증가
   • 전 세계적으로 AI 투자는 연속 두 번째로 감소.
   • 새롭게 자금을 지원받은 AI 회사 수는 1,812개로 40.6% 증가.
6. 기업의 AI 채택률 증가
   • 2023년 맥킨지 보고서에 따르면, 55%의 조직이 적어도 한 사업부에서 AI(생성 AI 포함)를 사용.
7. 중국, 산업용 로봇 분야에서 독주
   • 중국은 2023년 산업용 로봇 설치에서 세계 리더의 위치를 유지, 전체의 52.4%를 차지.
8. 로봇 설치의 다양성 증가
   • 산업용 로봇 설치가 모든 응용 분야에서 증가하며, 특히 인간 중심의 역할에 로봇을 배치하는 데 중점을 두는 추세임.
9. AI로 더 생산적이고 품질이 중요한 일을 처리
   • 2023년 연구들은 AI가 근로자들이 작업을 더 빠르게 완료하고 출력의 질을 향상시키는 데 도움을 준다는 것을 보여줌.
10. 포춘 500 기업, AI와 특히 생성 AI에 대해 더 많이 언급
    • 2023년에 AI는 포춘 500 기업 수익 콜에서 394번 언급됨,
    • 이는 2022년 대비 두 배 가까이 증가했으며 가장 자주 언급된 주제는 생성형 AI임.

Chapter 5. 과학 및 의학

1. AI 덕분에 과학 발전이 더욱 가속화
   • 2022년, AI는 과학적 발견을 가속화하기 시작.
   • 2023년에는 AlphaDev와 같은 더욱 의미 있는 과학 관련 AI 응용 프로그램이 출시됨으로써 알고리즘 정렬을 더 효율적으로 만들고 재료 발견을 용이하게 함.
2. AI가 의학 분야에 큰 진전을 가져옴
   • 2023년, 팬데믹 예측을 향상시키는 EVEscape와 변이 분류를 돕는 AlphaMissence를 포함한 여러 중요한 의료 시스템이 출시됨. AI는 의학 발전을 촉진하는 데 점점 더 활용됨.
3. 고도의 지식이 있는 의료 AI 등장
   • 최근 몇 년간 AI 시스템은 MedQA 벤치마크에서 눈에 띄는 향상을 보여줌.
   • 2023년의 주목할 만한 모델인 GPT-4 Medprompt는 90.2%의 정확도를 달성하여 2022년 최고 점수 대비 22.6% 포인트 증가를 기록.
4. FDA가 점점 더 많은 AI 관련 의료 기기를 승인
   • 2022년, FDA는 139개의 AI 관련 의료 기기를 승인, 2021년 대비 12.1% 증가함.
   • 2012년 이후 FDA 승인을 받은 AI 관련 의료 기기 수는 45배 이상 증가햇으며 AI는 실제 의료 목적으로 점점 더 많이 사용됨.

Chapter 6. 교육

1. 미국과 캐나다의 컴퓨터 과학 학사 졸업생 수 증가
   • 미국과 캐나다의 컴퓨터 과학 학사 학위 취득자 수는 계속해서 증가하지만, 석사 학위 취득자 수는 비교적 정체되어 있으며, 박사 학위 취득자 수는 약간 증가함.
2. AI 박사들의 산업계 이동 가속화
   • 2022년에 새로운 AI 박사들의 70.7%가 학계가 아닌 산업계로 진출하여, 산업계로의 두뇌 유출이 가속화됨.
3. 산업계에서 학계로의 인재 이동 감소
   • 미국과 캐나다에서 산업계 출신의 AI 학계 교수진 비율이 2019년 13%에서 2022년 7%로 감소함.
4. 미국과 캐나다의 컴퓨터 과학 교육 국제화 감소
   • 2022년 대비 국제 학생의 컴퓨터 과학 학사, 석사, 박사 학위 취득자 수가 감소.
5. 미국 고등학교 학생들의 컴퓨터 과학 수업 증가했으나 접근성 문제는 여전
   • 2022년에 201,000명이 컴퓨터 과학 시험을 치렀으나, 대규모 학교와 교외 지역 학생들만이 컴퓨터 과학 수업에 접근하기 쉬움.
6. AI 관련 학위 프로그램 국제적 증가
   • 영어 및 비영어권을 포함한 AI 관련 학위 프로그램이 2017년 이후 세 배 증가.
7. 영국과 독일, 유럽 정보기술 및 컴퓨터 과학 졸업생 배출
   • 영국과 독일이 유럽에서 정보기술, 컴퓨터 과학, 컴퓨터 엔지니어링 학사, 석사, 박사 학위 취득자 수가 가장 많음.
   • 인구 대비로는 핀란드가 학사와 박사 학위 취득자 수, 아일랜드가 석사 학위 취득자 수에서 선두임.

Chapter 7. 거버넌스

1. 미국 내 AI 규제 급증
   • 2023년에 미국 내 AI 관련 규제 수가 크게 증가하여 2016년 하나에서 25개로 증가
   • 지난해에만 AI 관련 규제가 56.3% 증가.
2. 미국과 유럽연합, AI 정책에서 주요 진전
   • 2023년, 미국과 EU는 AI 규제를 발전시키기 위한 중요한 제안을 공유.
   • EU는 AI 법안의 조건에 대해 합의를 보았고, 바이든 대통령은 AI에 관한 행정 명령에 서명.
3. AI에 대해 미국 정책 입안자들이 주목
   • 2023년 AI 관련 법안이 연방 차원에서 눈에 띄게 증가하여 181개의 법안이 제안됨, 2022년의 두 배 이상임.
4. 전 세계 입법자들은 AI에 대한 논의를 지속
   • 2023년 AI 언급은 입법 절차에서 거의 두 배로 증가.
   • 모든 대륙에서 최소 한 국가 이상이 2023년에 AI를 논의함으로써 AI 정책 논의의 전 세계적 범위를 강조.
5. 더 많은 규제 기관이 AI에 주목
   • 미국의 규제 기관에서 발행하는 AI 규제가 2022년의 17개에서 2023년에 21개로 증가.
   • 2023년에는 교통부와 직업 안전 건강 관리국 등 새로운 규제 기관이 AI 관련 규제를 처음으로 시행함.

Chapter 8. 다양성

1. 미국과 캐나다의 컴퓨터 과학 학위 취득생이 다양해짐
   • 백인 학생들이 여전히 컴퓨터 과학 학위 취득생 중 가장 많은 비율을 차지하고 있지만, 아시안, 히스패닉, 블랙 또는 아프리카계 미국인 학생들의 비율이 지속적으로 증가.
2. 유럽 컴퓨터 과학 분야에서 성별 격차 지속
   • 유럽의 모든 조사된 국가에서 정보학, 컴퓨터 과학, 컴퓨터 엔지니어링 및 IT 전공 학위 프로그램에서 여성보다 남성 졸업생이 더 많은 것으로 보고됨.
   • 성별 격차는 좁혀지고 있지만, 이 격차가 줄어드는 속도는 느림.
3. 미국 컴퓨터 과학 교육은 성별 및 인종 다양성 반영하여 발전 중
   • 여학생들이 치르는 AP 컴퓨터 과학 시험 비율이 2007년 16.8%에서 2022년에는 30.5%로 증가.
   • 아시안, 히스패닉/라티노/라티나, 블랙/아프리카계 미국인 학생들의 참여도 매년 꾸준히 증가함.

Chapter 9. 설문

1. 전 세계 사람들, AI의 잠재적 영향에 대해 더 많이 인지하고 불안해함
   • 지난해 조사에 따르면, AI가 향후 3~5년 내 인생에 큰 영향을 미칠 것이라고 생각하는 사람의 비율이 60%에서 66%로 증가. 또한 52%가 AI 제품과 서비스에 대해 불안함을 표현.
2. 서방 국가들의 AI에 대한 감정은 낮지만 점차 개선되고 있음
   • 2022년, 독일, 네덜란드, 호주, 벨기에, 캐나다, 미국 등 서방 국가들은 AI 제품 및 서비스에 대해 가장 긍정적이지 않았으나, 이후 이러한 국가들에서 AI의 혜택을 인정하는 비율이 증가.
3. 대중은 AI의 경제적 영향에 대해 비관적
   • Ipsos 조사에 따르면, 응답자의 37%만이 AI가 직업을 개선할 것으로 기대하며, 34%만이 경제를 촉진할 것으로 예상하고, 32%는 일자리 시장을 강화할 것으로 생각.
4. AI에 대한 낙관론에서 세대, 소득, 교육 수준 별로 차이
   • AI가 생계를 개선할 잠재력에 대한 인식에서 세대 간, 소득 및 교육 수준 간의 중요한 차이가 있으며, 젊은 세대가 일반적으로 더 낙관적임.
5. ChatGPT는 널리 알려져 있고 널리 사용됨
   • 토론토 대학교의 국제 조사에 따르면 응답자의 63%가 ChatGPT를 알고 있으며, 이 중 절반이상이 매주 최소 한 번 사용함.

Reference

• Stanford’s 2024 AI Index Tracks Generative AI and More – IEEE Spectrum
• Review the 2024 AI Index Report | Stanford HAI