이앤아이 CMS

🧠AI 데이터센터, 학습 대신 '추론'이 대세라고?🤔

안녕하세용 여러분! 오늘 제가 또 재밌는 소식을 들고왔는데요! 🤩

요새 인공지능 이슈가 계속 뜨고 있잖아요? 근데 그 중에서 데이터센터 이야기가 참 재밌더라구요!💡💡 원래 AI 하면 다들 '훈련' 생각하시쥬? 모델 학습시키고, 막 GPU 엄청 돌리고 그래서 엔비디아 GPU 난리나고 그랬잖아요ㅋㅋ (엔비디아 주식 투자자분들 괜찮으심까..?ㅠㅠ)

근데 요새 분위기가 좀 이상해졌어요. 최근에 마소, 아마존, 메타 이런 큰형님들이 AI 투자를 늘린다고 한건데, 훈련 말고 추론(inference) 서비스 쪽으로 돈 왕창 쏟는대요ㅎㅎㅎ 잉? 추론이 모지? 하셨겠쥬? 추론은 쉽게 말해서 '사용자가 질문하거나 시킬때 AI가 긴~ 시간 고민하고, 계산 많이해서 딱 정확한 답을 주는' 그런거라고 보시면 돼요. 간단히 말하면 AI가 머리 진짜 열심히 쓰는거래요ㅋㅋㅋㅋ🤣 예전에는 그냥 챗봇이 간단한 질문 답 주는 정도였는데, 지금은 아예 추론에다가 무거운 컴퓨팅 리소스를 팍팍 넣는거죵😎😎

아마존이나 구글 같은 큰 기업들이 자기네 데이터센터에서 앞으로 이 추론에 엄청 투자를 늘린다니까요? 막상 생각하면 간단한 질문들은 굳이 그렇게까지 어렵게 대답할 필요 없는데 말이에요ㅎ 근데 여기서 살짝 머리가 아프대요😭 추론이요, 간단한 챗봇보다 시간두 많이 걸리고 컴퓨팅 자원도 미친듯이 필요해서 비용 문제가 아직 심각하대요. 클라우드 비용 폭탄 맞는 건 아닌감?ㅋㅋㅋㅋ🙄

그.런.데 말이죵! 사실 최근 딥시크라는 모델이 등장하면서 또 혼란 시작됐구만ㅋ 딥시크가 이 '머리아픈 추론'서비스 가격을 확 낮춰버렸대요(와 천재 아입니깡..?ㅋㅋ). 가격이 낮아지니까 이제 사람들이 "어? 추론? 괜찮네?" 이러면서 많이들 쓰기 시작했구요ㅋ 기업들이 완전 흥분했지 뭐예용ㅋㅋㅋㅋ 역시 자본주의는 가격이 깡패다…👍👍

실제로 지금 데이터센터 예산에서 보면 훈련에 쓰는 비중이 올해 약 40%쯤 되는데요, 앞으로 8년 정도 뒤엔 14%까지 확 떨어지고 거의 절반이 다 추론 비중으로 바뀐다는거죠!! 완전 대박아닙니까…? 세상 너무 빨리 바뀌어어어어😭😭😭

이번에 또 엔비디아가 갑자기 "GPU는 추론에도 짱짱맨임니당!" 막 그러면서 급 지원사격을 시작했어요ㅋㅋ 다른 회사들이 추론 전문칩(세레브라스니, 삼바노바니 하는 신기한 이름 가진 친구들ㅋㅋ)을 막 출시하면서 따라잡으려고 하니까, 우리 엔비형님들이 빠르고 저렴하다면서 더 열심히 뛰시나봐요ㅎㅎㅎ😤 아… 역시 경쟁이 사람도, 기계도 키우는 법이겠쥬?ㅎㅎㅎ😎

그리고 정리하자면, 요새 나온 AI 최첨단 모델들이 죄다 '추론 전용'이라는거! 오픈AI가 'o1' 이런 신기한 이름의 추론모델을 냈구, 딥시크도 용감하게 나와서 시장 엄청 흔들었으니까 기업들이 안 움직일 수가 없겠죠? 이제 앞으로 AI 서비스들, 전부 이 추론 중심으로 갈 수밖에 없다는게 전문가들 의견이래요🤔

그래서 여러분도 이제 '추론 서비스'란 단어 엄청 보게 될테니까, 당황하지 말구 정보 빨리 빨리 챙기셔야 해요ㅋㅋ 안 그러면 저처럼 뒤처집니당.. (제가 벌써 좀 뒤처진 느낌… 아니겠죠?ㅠㅠㅋㅋ흑흑😭😭)

아무튼 오늘 데이터센터 AI 대세가 이제 훈련보다 추론으로 간다! 이 뉴스 기억해주세용ㅎㅎㅎ

오늘도 끝까지 읽어주셔서 감사해용>_< 담엔 더 재밌는 소식으로 찾아오겠심다!! 모두 안녕~!😍😍