빅분기 필기 3

[필기] (이기적) 분석 작업 계획

* 데이터 처리 영역 : 기초 데이터를 정의, 수집 및 저장, 분석용 물리적 환경 제공 ① 데이터 소스 : 내부,외부 데이터, 미디어 정보 ② 데이터 수집 : 입력, 로그수집기, 크롤링, 센싱 ③ 데이터 저장 : 정형, 비정형데이터, 저장 장치 ④ 데이터 처리: 배치 처리, 실시간 처리, 분산 처리 * 데이터 분석 영역: 데이터를 가공하여 분석을 수행하고 표현 ① 도메인 이슈 도출 : 현황 파악 및 개선과제 정의, 빅데이터 요건 정의서 작성 ② 분석 목표 수립 : 분석목표 수립, 분석목표 정의서 작성 ③ 프로젝트 계획 수립 : 분석몰표정의서, 프로젝트 소요비용 배분계획을 바탕으로 작업 분할 구조도(WBS) 작성 ④ 보유 데이터 자산 확인 : 현재 데이터의 법률적 이슈나 제약상항 검토 * 데이터 표현 : ..

[필기](이기적) 빅데이터 기술

* 빅데이터 플랫폼: 빅데이터 수집,저장,처리,분석 등 전 과정을 통합적으로 제공 * 빅데이터 플랫폼 등장 배경 ① 비지니스 요구사항 변화 ② 데이터 규모와 처리 복잡도 증가 ③ 데이터 구조의 변화와 신속성 요구 ④ 데이터 분석 유연성 증대 * 빅데이터 플랫폼 기능 ( 아래 문제를 해결함 ) ① 컴퓨팅 부하 발생 : 연산과정에서 부하 발생 ② 저장 부하발생 : 입력,가공,출력등 여러 단계에서 발생 ③ 네크워크 부하 발생 : 분산처리시에 노드 산의 통신과정 부하발생 *빅데이터 플랫폼은 서비스 사용자와 제공자 측면 어디에도 치우치면 안됨 * 빅데이터 플랫폼의 구조 ① 소프트웨어 계층 : 어플 구성하며 데이터 처리 및 분석과 이를 위한 데이터 수집, 정제 - 데이터 처리 및 분석 엔진(데이터 처리 및 분석, ..

[필기] (이기적) 빅데이터 개요 및 활용

* 데이터 : 추론, 추정의 근거를 이루는 사실 → 특징 : 객체만으로도 가치 有, 상호관계에서 더큰 가치 → 구분 : 정량적/ 정성적 → 유형 : ① 정형데이터 : 정해진 형식과 구조에 맞게 저장된것 ex) 관계형 DB의 테이블에 저장되는 Data ② 반정형 데이터 : 형식과 구조가 유연, 스키마 정보를 데이터와함께 제공 ex) JSON,XML등 ③ 비정형 데이터 : 구조가 정해지지 않은 대부분의 데이터 ex) 동영상, 이미지 → 근원에 따른 분류 : 가격 데이터/ㅂ\불가역 데이터 * 데이터의 기능 ①암묵지 : 경험으로 체득한것, 무형지식 ②형식지 : 형상화된거 * 지식창조 매커니즘 ①공통화: 서로 인식 공유 ②표출화: 암묵지를 형식지로 ③연결화: 형식지 체계화 ④내면화: 형식지를 개인의 것으로 * 데..

728x90