AI 時代におけるオブザーバビリティとセキュリティの再定義
AI 時代におけるオブザーバビリティとセキュリティの再定義
AI がシステムの構築・保護・運用のあり方を大きく変えつつあるなか、可視性とコンテキスト(状況の理解)はかつてないほどの重要となっています。 Datadog はお客様の本番環境のど真ん中で、スタック全体のデータを継続的に取り込み、相関付け、コンテキストを付与することで運用の全体像を可視化します。こうして得られる統合的な可視性が、安全かつ効果的に AI を活用するための基盤となります。 このセッションでは、DatadogのChief Product Offier(CPO)の ヤンビン・リー が、AI 時代において Datadog のプラットフォームがどのように進化し、オブザーバビリティとセキュリティの概念を再定義しているかを紹介します。さらに、Datadog の製品の活用を通じて検知・対応・開発をよりインテリジェントかつ自律的に行えるよう支援し、より高い信頼性を実現する方法を解説します。
Datadog の継続的なイノベーション
Datadog の継続的なイノベーション
Datadog は、「エンジニアチームが自分たちのシステムを明確かつ共通の視点で理解できるようにする」という理念のもとに創業しました。 このミッションのもと、メトリクス/トレース/ログを結びつけるプラットフォームを構築し、その考え方はいまも私たちの進化を導く指針となっています。 本セッションでは、Datadog On-Call のプロダクトリードであるダルジート・サンドゥが、Datadog の創業時からの理念がどのように現在のプロダクト開発に受け継がれているかをご紹介します。さらに、Datadog の製品が進化を続け、従来のオブザーバビリティの枠を広げることで、システムの安定運用と迅速な問題解決をどのように支えているかを解説します。
生成AI SaaSプロダクトにおけるOpenTelemetryを活用したObservability向上の取り組み
生成AI SaaSプロダクトにおけるOpenTelemetryを活用したObservability向上の取り組み
Gen-AXでは、生成AIを活用したSaaSプロダクトの開発・提供と、企業のAIトランスフォーメーション(AX)を支援するコンサルティングサービスを提供しています。立ち上げ期の小規模チームでゼロから開発を進めるなか、Rust/Python/TypeScriptによる多言語・複数コンポーネント構成のため、横断的な可観測性(Observability)の確保が課題でした。そこで、計装はOpenTelemetryで標準化し、ログやトレース等の統合監視はDatadogを採用して、監視基盤を構築しました。本セッションでは、こうした技術選定の背景や判断軸、OpenTelemetryでDatadogと連携させてObservability実現方法の要点、運用上の工夫について紹介します。
Datadog LLM Observabilityで切り拓く、LLMプロトタイプ開発の可視化と加速
Datadog LLM Observabilityで切り拓く、LLMプロトタイプ開発の可視化と加速
日本経済新聞社では、複数のBtoB SaaSプロダクトを展開する情報サービス事業を展開しています。その中で、社内向けにLLMを活用した試作機能を開発し、社員からのフィードバックをもとに改善を重ねる取り組みを行ってきました。 しかし、LLMを利用した機能開発には大きな課題があります。プロンプトの考慮不足や、言語化されていなかった暗黙的な知識が原因で、想定外の応答が返ってくることは珍しくありません。皆さんも一度は「なぜこんな応答を?」と首をかしげた経験があるのではないでしょうか。さらに、プロトタイプ開発ではスピードを優先するため、ログや監視が不足し、予期せぬエラーの原因追及に時間を要するケースも少なくありません。 私たちはこの課題を克服するために Datadog LLM Observability を導入しました。ログトレース、アプリケーション監視、アラートといった機能をプロトタイプ開発で活用することで、LLMの挙動を可視化し、不具合の要因を迅速に特定できるようになりました。その結果、社内フィードバックを受けた後の改善サイクルが大幅に加速し、プロトタイプの成熟度を高めることができています。 本セッションでは、日本経済新聞社におけるLLMプロトタイプ開発の実態と、Datadog LLM Observabilityを活用して不確実性の高いLLMアプリケーションの挙動をどのように可視化・改善してきたのかをご紹介します。