ทฤษฎีสารสนเทศ

แนวคิดพื้นฐานของทฤษฎีที่นำมาใช้ในวัยสี่สิบของศตวรรษที่ยี่สิบ, แชนนอน ทฤษฎีสารสนเทศ - วิทยาศาสตร์ของกระบวนการของการถ่ายโอนการจัดเก็บและเรียกข้อมูลในธรรมชาติทางด้านเทคนิคและทางสังคมระบบที่ ในการใช้งานหลายสาขาวิทยาศาสตร์เช่นวิทยาการคอมพิวเตอร์ภาษาศาสตร์วิทยาการทฤษฎีการควบคุมการประมวลผลภาพพันธุศาสตร์จิตวิทยาเศรษฐศาสตร์องค์กรของวิธีการผลิตที่มีการใช้วิทยาศาสตร์นี้

ในสภาพที่ทันสมัยด้วยทฤษฎีสารสนเทศที่เชื่อมโยงอย่างแน่นหนากับทฤษฎีการเข้ารหัสกล่าวถึงปัญหาที่พบบ่อยที่สุดของความสอดคล้องระหว่างสัญญาณและข้อความและทฤษฎีของการประมวลผลสัญญาณขัดแย้ง quantization ศึกษาและสัญญาณกู้คืนและสเปกตรัมและ การวิเคราะห์ความสัมพันธ์ ดังกล่าว

ทฤษฎีสารสนเทศพิจารณาแนวคิดพื้นฐานของ "ข้อมูล" ส่วนใหญ่ในเชิงปริมาณโดยไม่ต้องคำนึงถึงความคุ้มค่าและบางครั้งความหมาย ในวิธีการนี้หน้าของข้อความจะมีประมาณจำนวนเดียวกันของข้อมูลที่ถูกกำหนดโดยจำนวนของสัญญาณและสัญลักษณ์และไม่ขึ้นอยู่กับความจริงที่ว่าพูดอย่างเคร่งครัดมีการพิมพ์ถึงแม้ว่ามันจะเป็นชุดอย่างหมดสติและวุ่นวายของสัญลักษณ์บางอย่าง

วิธีการนี้เป็นธรรม แต่สำหรับการจำลองของระบบการสื่อสารเนื่องจากพวกเขามีการส่งข้อมูลเกี่ยวกับการได้อย่างถูกต้อง ช่องทางการสื่อสารที่ ซึ่งอาจจะเป็นชุดของตัวอักษรและสัญลักษณ์ใด ๆ จากนั้นเมื่อมีความจำเป็นต้องคำนึงถึงความคุ้มค่าและความหมายของข้อมูลเชิงปริมาณเป็นที่ยอมรับ สถานการณ์เหล่านี้กำหนดข้อ จำกัด มากในด้านการประยุกต์ใช้เป็นไปได้ของทฤษฎีนี้

ความรู้พื้นฐานของทฤษฎีข้อมูลที่เกี่ยวข้องกับการพิจารณาของปัญหาต่าง ๆ รวมทั้งที่เกี่ยวข้องโดยตรงกับการส่งและรับข้อมูล โครงการสื่อสารหลักซึ่งมีการพิจารณาในการเรียนการสอนมีดังนี้ ทฤษฎีสารสนเทศและการเข้ารหัส เขาคิดว่าสิ่งเหล่านี้เป็นแหล่งที่มาของข้อความซึ่งเป็นคำหรือชุดของคำที่เขียนตัวอักษรบางอย่างของตัวอักษร แหล่งที่มาของข้อความที่อาจเป็นข้อความใด ๆ ธรรมชาติหรือ ภาษาเทียม ภาษามนุษย์ฐานข้อมูลและบาง แบบจำลองทางคณิตศาสตร์, สร้างลำดับของตัวอักษร เครื่องส่งสัญญาณแปลงข้อความเป็นสัญญาณที่สอดคล้องกับลักษณะทางกายภาพของช่องทางการสื่อสาร - สื่อกลางในการส่งสัญญาณ ในระหว่างทางของดังกล่าวมันเป็นเรื่องที่รบกวนซึ่งแนะนำการบิดเบือนในค่าของพารามิเตอร์ข้อมูล รับกู้ข้อความต้นฉบับจากสัญญาณเพี้ยนที่ได้รับ ข้อความในรูปแบบที่ลดลงมาถึงปลายทาง - บางคนหรืออุปกรณ์ทางเทคนิค

แหล่งที่มาของข้อความเป็นสถิติในธรรมชาตินั่นคือลักษณะของแต่ละข้อความจะถูกกำหนดโดยความน่าจะเป็นบางอย่าง ทฤษฎีสารสนเทศนอนส์เชื่อว่าถ้าความน่าจะเป็นของข้อความจะมีค่าเท่ากับความสามัคคีที่เป็นลักษณะของเขาอย่างมีนัยสำคัญและความไม่แน่นอนไม่เชื่อว่ามันไม่ได้ดำเนินการข้อมูลใด ๆ

หนึ่งในปัญหาที่สำคัญของทฤษฎีข้อมูลพิจารณาการประสานงานของช่องทางการสื่อสารและข้อมูลคุณสมบัติของแหล่งที่มาของข้อความ แบนด์วิดธ์ จะถูกกำหนดโดยหน่วยของ 1 บิตต่อวินาที

หนึ่งปัญหากับระบบการสื่อสารมีการรบกวนไปยังเส้นทางสัญญาณที่ต้องการ แชนนอนน่าเสียดายที่ไม่ได้ทำให้เรามีวิธีการเฉพาะสำหรับการรับมือกับบรรดา วิธีที่ง่ายที่สุดในการกำจัดที่ถูกทำซ้ำข้อความหลายครั้งไม่ได้มีประสิทธิภาพมากเพราะมันต้องใช้ค่าใช้จ่ายเวลามากขึ้นสำหรับ การส่งข้อมูล มากประสิทธิภาพมากขึ้นช่วยให้การใช้รหัสที่ช่วยให้คุณสามารถตรวจสอบและแก้ไขข้อผิดพลาดในการส่งข้อมูล