The privacy-performance spectrum: Building learning-enabled genAI systems for the enterprise

As generative AI (GenAI) systems become embedded in enterprise workflows — from R&D and customer service to fraud detection and regulatory compliance — many teams are optimizing the wrong layer. The obsession tends to fall on model selection (GPT-4 or Claude?), prompt tuning, or infrastructure scaling. But in real-world deployments across industries like CPG, retail,…

The bi-modal imperative

AI has turned up the pressure on the C-suite. CEOs field relentless questions about AI strategy, competitors announce sweeping AI transformations and investors inundate earnings calls with questions about AI initiatives. Yet for all the fanfare and investment, companies are discovering an uncomfortable truth. Despite implementing AI tools, deploying chatbots and appointing Chief AI Officers,…

Keeping humans in the AI loop

“Would I trust if my doctor says, ‘This is what ChatGPT is saying, and based on that, I’m treating you.’ I wouldn’t want that,” says Bhavani Thuraisingham, professor of computer science and founding director of the Cyber Security Research and Education Institute at UT Dallas. And that was long before news came out that ChatGPT…

바이트댄스, 오픈소스 LLM ‘시드-OSS-36B’ 공개

이번 모델은 바이트댄스 AI 연구조직인 시드팀(Seed Team)이 개발했다. 세부 모델은 합성 데이터를 포함한 시드-OSS-36B-Base(Synthetic), 합성 데이터를 제외한 시드-OSS-36B-Base(Non-Synthetic), 명령 수행에 최적화된 시드-OSS-36B-Instruct 등 세 가지다. 시드팀은 시드-OSS가 국제(i18n) 환경에서 활용될 수 있도록 최적화됐다고 설명했다. 특히 최대 512K 토큰 길이의 문맥을 네이티브로 지원해 대규모 텍스트 입력 처리에 강점을 보인다고 밝혔다. 또한 주요 기능으로는 ▲추론 과정의 길이를…

중국이 제기한 백도어 우려에··· 엔비디아, H20 칩 생산 중단 요청

IT 매체 디인포메이션 보도에 따르면, 엔비디아는 첨단 패키징을 담당하는 앰코테크놀로지, 고대역폭 메모리(HBM)를 공급하는 삼성전자 등 주요 협력사들에 H20 칩의 생산 중단을 요청했다. 이 같은 결정은 최근 중국 당국이 텐센트, 바이트댄스, 알리바바 등 자국 빅테크 기업에 H20 구매를 자제하라는 지침을 내린 뒤 나왔다. 중국 당국은 해당 칩에 미국으로 데이터를 유출할 수 있는 ‘백도어’가 존재할 수 있다는…

칼럼 | IT 부서의 생산성을 파괴하는 관리 방식 6가지

성과를 꾸준히 창출하는 조직을 운영하는 역량은 CIO를 비롯한 고위 임원에게 필수적인 자질이다. 하지만 조직 성과를 개선하기 위해 널리 쓰이는 관리 방식이 실제로는 효과가 없거나, 오히려 상황을 악화시키는 경우가 있다. 더 나은 방향을 찾고 싶다면 경영학자 피터 드러커의 통찰에서 출발할 만하다. 그는 “경영이라고 불리는 것의 대부분은 사람들이 일을 못 하게 만든다”라고 말한 바 있다. 이 말은…

마이크로소프트 개발자 연봉 유출···최고 연 60만 달러

마이크로소프트(MS)는 22만 명이 넘는 직원을 두고 있다. 그러나 올해 초 단행된 구조조정으로 수천 명의 직원이 회사를 떠나면서 이 수치는 다소 줄어든 상태다. 그렇다면 MS 직원은 실제로 얼마나 벌고 있을까. 특히 개발자와 관리자 직군의 보수는 업계 수요가 높은 만큼 더욱 주목받고 있다. 일반 사용자라면 오늘날 윈도우 개발자가 어느 정도의 연봉을 받는지 궁금할 수 있다. MS 개발자…