Anthropic suggests slowing AI research until we can align it with human goals

AI could soon lead to systems capable of improving their own performance faster than humans can effectively supervise them, reviving concerns about the industry’s longstanding “alignment problem,” ensuring AI systems reliably pursue human goals, senior Anthropic researchers have warned in a new blog post titled “When AI builds itself.” Anthropic Institute lead Marina Favaro and…

Tokenmaxxing: When AI adoption metrics go bad

Tracking AI adoption in the enterprise presents IT leaders with a metrics dilemma. While ROI should be the arbiter of AI initiative success, ensuring employees actually use the AI tools you roll out is a key step in the journey toward that ROI. So, what’s the best way to measure AI uptake without losing sight…

Muchas plazas en la oferta pública de empleo TI, pero ¿son suficientes para responder a las necesidades de la Administración digital?

Las nuevas tecnologías son una de las grandes protagonistas de la última convocatoria de empleo público a nivel estatal. A principios de mayo, el Consejo de Ministros aprobaba una oferta con 27.232 plazas. El principal destino de los futuros funcionarios estará en la Administración General del Estado y 1.700 plazas se irán al cuerpo superior…

칼럼 | 엔지니어 20명으로 포춘 500급 기업용 AI를 구축한 비결

3년여 전 필자가 아키로랩스(akirolabs)의 기술 부문 총괄을 맡았을 당시, 필자는 아직 초기 단계에 머물러 있던 조달 SaaS 플랫폼을 인수받았다. 당시 개발 업무는 전적으로 유럽 외 지역에 아웃소싱돼 있었다. 그러나 회사는 이미 초기 제품-시장 적합성(Product-Market Fit)을 확보한 상태였고, 첫 고객들도 관심을 보이기 시작했다. 이에 따라 제품 소유권 확보와 확장 가능한 개발 체계 구축이 점점 더 중요한…

앤트로픽·오픈AI IPO가 의미하는 것···IT리더의 AI 예산은 더 늘어날까

AI 업계 선두 주자인 앤트로픽(Anthropic)과 오픈AI(OpenAI)가 모두 IPO를 추진하는 것으로 알려지면서, 이들 AI 모델에 의존하는 기업의 IT 리더들은 앞으로 어떤 변화가 닥칠지 주목하고 있다. 가장 큰 관심사는 기업용 AI 서비스 비용 상승 가능성이다. 특히 최첨단 AI 모델을 사용하는 기업 고객의 부담이 커질 수 있다는 우려가 나온다. 두 기업은 상장을 통해 주식을 공개 매각함으로써 수억 달러…