'분류 전체보기' 카테고리의 글 목록

본문 바로가기

728x90

분류 전체보기

(178)

For AI 개발 RAGAS를 이용한 RAG 검증/평가 - RAG 시스템 검증 가이드 RAGAS를 이용한 RAG 검증/평가 - RAG 시스템 검증 가이드RAGAS FrameworkRAGAS는 RAG 시스템의 품질을 정량적으로 측정, 평가하기 위한 프레임워크이다.RAG를 만들었는데, 검색과 답변이 정상적으로 출력된다. 그런데 이 답변이 정말 정확한 답변인건지 정확innovation123.tistory.com https://bsssss.tistory.com/1621[Langfuse] Evaluation : LLM-as-a-JudgeLangfuse Evaluation의 human annotation과 LLM-as-a-judge는 평가 방식(즉, ground truth(우리가 정한 정답)를 수집하거나 평가하는 방법)을 가리킵니다..

[Splunk|UI] 앱 메뉴 위치 조정 https://dev.splunk.com/enterprise/docs/developapps/createapps/addnavsplunkapp?_gl=1*1n20exi*_gcl_au*MTEzODIyMzg4OS4xNzc3NDQ4NzI1*FPAU*MTEzODIyMzg4OS4xNzc3NDQ4NzI1*_ga*MjU4Njc4ODAzLjE3MDU5OTY3NDU.*_ga_5EPM2P39FV*czE3ODUyMDI3Mzckbzk0MCRnMSR0MTc4NTIwMjgyMCRqMzkkbDAkaDY0MTI5MzU3NQ..*_fplc*YjQ1eWRMN3dVR1lXRjhCVzVCYm54NjhUUVA4OUhrdXIxSklOdUZBM0UxeEREZFFSVXp6VSUyQm5pRUN4QWNwM2VJbHpna2JPY1RRT1pnWjZrSFZa..

[Splunk|필드추출] CEF Format Syslog 필드추출 https://hurricanelabs.com/splunk-tutorials/your-splunk-guide-for-smooth-sailing-with-cef-field-extractions/Your Splunk Guide for Smooth Sailing with CEF Field ExtractionsNeed to work with logs in CEF in Splunk? This tutorial will give you some help with getting field extractions working for custom extensions.

DISK 설계 | IOPS를 고려한 DISK 설계 오늘 디스크 구성 검토를 하면서 가장 크게 배운 점은 하나였다.디스크는 “몇 TB냐”보다 “얼마나 빠르게 읽고 쓸 수 있느냐”가 먼저다. 처음에는 디스크 용량, RAID 구성, 보관 기간을 중심으로 생각하기 쉬웠다.하지만 Splunk처럼 로그를 계속 수집하고, 동시에 검색까지 수행하는 시스템에서는단순 저장공간보다 IOPS, RAID write penalty, 디스크 확장성, Hot/Warm/Cold 데이터 배치가 훨씬 중요하다. Splunk 공식 문서에서도 인덱싱은 I/O 집약적인 작업이며,인덱서가 데이터를 효율적으로 수집·파싱하고 검색 요청에 응답하려면 충분한 디스크 I/O가 필요하다고 설명한다.또한 Splunk Enterprise 참고 하드웨어 문서에서는 HDD 기반 스토리지의 sustained IO..

데이터 보존 | Splunk Indexer Cluster에서 coldToFrozenScript로 S3 아카이빙 구성하기 (2/2) 1. 개요Splunk 인덱서 클러스터 환경에서 일정 기간이 지난 cold bucket을 S3로 아카이빙하는 구성을 테스트했다.이번 구성의 목적은 다음과 같다.Splunk bucket이 frozen으로 전환될 때 S3로 자동 아카이빙Indexer Cluster 환경에서 db_, rb_ bucket 중복 업로드 방지S3 lock / done marker 기반 dedupe 처리lock을 획득한 peer가 장애 나더라도 fallback 경로로 데이터 유실 방지Splunk 실행 환경에서 AWS CLI가 정상 동작하도록 환경변수 충돌 제거테스트 환경은 다음과 같다.Splunk Enterprise Indexer ClusterRF = 2SF = 2S3 Bucket = archive-splunk-data-12345678..

데이터 수집 | Splunk Add-on for Google Cloud Platform 수집 가능 데이터 정리 1. 개요Splunk Add-on for Google Cloud Platform은 GCP 환경의 로그, 메트릭, 과금 데이터, Cloud Storage 파일, 리소스 메타데이터를 Splunk로 수집하기 위한 Add-on이다.수집 대상은 크게 아래와 같이 구분할 수 있다.구분사용 Input주요 수집 대상로그 수집Cloud Pub/SubGCP Audit Log, Platform Log, Workspace 관련 로그메트릭 수집Cloud MonitoringCPU, Disk, Network, Pub/Sub, Cloud SQL 등 성능 지표비용 수집BigQuery BillingGCP 과금/비용 데이터파일 수집Cloud Storage BucketGCS에 저장된 JSON, CSV, XML, 일반 로그 파일자산정보 수집..

데이터 보존 | Splunk Indexer Cluster에서 coldToFrozenScript로 S3 아카이빙 구성하기 (1/2) Splunk를 운영하다 보면 indexed data의 보관 기간과 디스크 용량을 함께 고려해야 한다. 최근 데이터는 Splunk local disk에 유지하는 것이 적절하지만, 장기 보관 목적의 오래된 로그까지 계속 local disk에 두면 storage 비용과 운영 부담이 커진다.이 글에서는 Splunk Indexer Cluster 환경에서 cold bucket이 frozen으로 전환되는 시점에 AWS S3로 아카이빙하는 구성을 정리한다.Splunk Enterprise Indexer ClusterReplication Factor = 2Search Factor = 2Archive Storage = AWS S3Archive Method = coldToFrozenScript1. Spl..

데이터 수집 | 최종 Python 수집기 코드 정리 (raw socket + dedup + buffering) 이전 글(https://authentic-information.tistory.com/214)에서 확인한 것처럼,현재 수집 환경은 일반적인 syslog 수신 서버 구조가 아니라 TAP(미러링) 기반 패킷 수집 구조이다. 즉, 내 서버가 syslog를 직접 수신하는 대상이 아니라,다른 목적지로 향하는 syslog 패킷을 복제해서 관찰하는 구조이기 때문에 일반 UDP socket 방식으로는 수집이 불가능하다. 따라서 최종 수집 구조는 아래와 같이 정리했다.TAP 미러링 트래픽 → raw socket(AF_PACKET) → IPv4/UDP/syslog 패킷 파싱 → 동일 메시지 dedup → 버퍼링 후 파일 저장 → Splunk file monitor 수집 이번 글에서는 실제 운영 가능한 형태의 Python 수..

이전 1 2 3 4 ··· 23 다음

728x90

티스토리툴바