文/李建興 | 2023-08-07發表
Datadog將大型語言模型用於監控,建立一個稱為Bits AI的人工智慧助理,增加企業對系統的可觀察性。另外,針對如GPT或是BERT等預訓練大型語言模型,Datadog也推出可觀察性工具LLM Observability,用以監控生成式人工智慧應用程式,發現底層大型語言模型可能存在的問題。
監控應用程式和基礎設施是一項負擔繁重的工作,需要篩選來自不同系統的大量資料和文件,Datadog開發Bits AI可觀察性助理,供用戶以自然語言指令處理端到端事件管理,加速問題診斷以及確認事件影響範圍。
資料來源: https://www.ithome.com.tw/news/158119