تحليل النصوص العربية والإنجليزية للمؤسسات بلغتي Python وR

نحول الشكاوى والإجابات المفتوحة والتقارير والمحتوى الرقمي إلى فئات وموضوعات ومؤشرات قابلة للقياس، عبر معالجة لغوية تراعي خصائص العربية ونماذج موثقة بالكود.

مواعيد الخدمةالخدمات الإلكترونيةالرسوم والإجراءاتجودة التعاملالتسجيل والقبولإيجابيسلبي
توزيع الشكاوى على الموضوعات المستخرجة ونسبة المشاعر السلبية في كل موضوع (بيانات توضيحية)

عن المنهجية

ماذا يقدم تحليل النصوص للمؤسسة؟

تتراكم لدى المؤسسات كميات كبيرة من النصوص غير المهيكلة: إجابات مفتوحة في الاستبيانات، وشكاوى المراجعين ومقترحاتهم، ومحاضر الاجتماعات، والتقارير، والمحتوى المنشور على المنصات الرقمية. قراءة هذه النصوص يدويًا تستهلك وقتًا طويلًا وتتأثر بانطباع القارئ، فتضيع أنماط متكررة لا تظهر إلا عند تحليل آلاف الوثائق معًا. يحول تحليل النصوص هذا الرصيد إلى فئات وموضوعات واتجاهات يمكن قياسها ومقارنتها عبر الزمن والمناطق والفئات.

نبدأ بتطبيع النص العربي: توحيد أشكال الهمزة والألف والياء والتاء المربوطة، وإزالة التشكيل والتطويل والرموز، ومعالجة الصيغ العامية والكلمات المكتوبة بالحروف اللاتينية. ثم نبني تمثيلًا مناسبًا للهدف، من TF-IDF إلى التضمينات المستخرجة من نماذج المحولات مثل AraBERT وCAMeLBERT. نقيس أداء المصنفات على عينة اختبار مستقلة بمقاييس مثل F1 ومصفوفة الالتباس، ونراجع عينة من النتائج يدويًا، ونوثق كل خطوة في كود قابل لإعادة التنفيذ.

يحصل صاحب القرار على صورة كمية لما يقوله المستفيدون أو الموظفون أو الجمهور: أبرز الموضوعات وحجم كل منها، واتجاه المشاعر وتغيره عبر الفترات، والجهات أو الخدمات التي تتركز فيها الشكاوى، مع أمثلة نصية ممثلة لكل موضوع. تعرض النتائج في تقرير مكتوب أو لوحة مؤشرات، ويمكن تشغيل النموذج دوريًا على النصوص الجديدة دون إعادة بناء التحليل من البداية.

للمؤسسات والجهات

متى تحتاجها مؤسستك؟

النماذج والأساليب

ما الذي نستخدمه في التحليل

٠١

تطبيع النص العربي (Arabic Normalization)

توحيد أشكال الحروف وإزالة التشكيل والتطويل والرموز لتقليل تشتت المفردات قبل أي تحليل.

٠٢

TF-IDF

وزن الكلمات بحسب أهميتها في الوثيقة مقارنة بمجموعة الوثائق كلها لبناء تمثيل عددي للنصوص.

٠٣

نمذجة الموضوعات (LDA / NMF)

اكتشاف الموضوعات الكامنة في مجموعة كبيرة من الوثائق دون تصنيف مسبق وتقدير وزن كل موضوع في كل وثيقة.

٠٤

التصنيف الخاضع للإشراف (Logistic Regression / SVM)

تعلم تصنيف النصوص إلى فئات محددة من عينة موسومة ثم تطبيقه على النصوص الجديدة.

٠٥

تحليل المشاعر (Sentiment Analysis)

تقدير اتجاه النص بين الإيجابي والسلبي والمحايد على مستوى الوثيقة أو على مستوى جانب محدد من الخدمة.

٠٦

نماذج المحولات (AraBERT / CAMeLBERT)

نماذج لغوية مدربة مسبقًا على نصوص عربية يجري ضبطها على بيانات المؤسسة لمهام التصنيف واستخراج الكيانات.

من الكود

تحليل موثق قابل لإعادة التنفيذ

مقتطفات مبسطة من نوع الكود الذي نسلمه موثقًا مع التقرير، تعمل على بيانات مدمجة أو اصطناعية، ويعاد تشغيلها على بيانات مؤسستك متى وصلت.

text_classifier.pyPython
import re
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import make_pipeline

def normalize(t):
    t = re.sub(r"[\u064B-\u0652\u0640]", "", t)  # marks
    t = re.sub("[إأآ]", "ا", t)
    t = re.sub("ى", "ي", t)
    return re.sub("ة", "ه", t)

# Synthetic labelled comments (pos / neg)
docs = ["الخدمة ممتازة والموظف متعاون",
        "تأخر الرد على الطلب كثيرا",
        "شكرا على سرعة الإنجاز",
        "الموقع لا يعمل والانتظار طويل"]
labels = ["pos", "neg", "pos", "neg"]

vec = TfidfVectorizer(preprocessor=normalize)
clf = make_pipeline(vec, LogisticRegression())
clf.fit(docs, labels)
print(clf.predict(["الموظف متعاون والخدمة سريعة"]))
text_topics.RR
library(quanteda)
library(topicmodels)

docs <- c("تأخر الرد على الطلب والانتظار طويل",
          "الموظف متعاون والخدمة سريعة",
          "الموقع لا يعمل ورسوم الخدمة مرتفعة",
          "سرعة الإنجاز وتعاون الموظف ممتاز")
# Normalise alef forms and taa marbuta
docs <- gsub("[إأآ]", "ا", docs)
docs <- gsub("ة", "ه", docs)

toks <- tokens(docs, remove_punct = TRUE)
dfm_m <- dfm(toks)
topfeatures(dfm_tfidf(dfm_m), 5)

# Two-topic LDA on the document-feature matrix
lda <- LDA(convert(dfm_m, to = "topicmodels"), k = 2,
           control = list(seed = 42))
terms(lda, 4)

Python: pandas, scikit-learn, nltk, gensim, spacy, camel-tools, transformers, bertopicR: quanteda, tidytext, tm, topicmodels, stm, text2vec, textrecipes

المخرجات

ماذا تستلم مؤسستك؟

نتفق على النطاق كتابيًا من البداية، والمدة حسب حجم العمل وتعقيد المنهجية.

  1. ٠١

    قواعد تطبيع وقوائم كلمات مستبعدة مكيفة لنصوص المؤسسة وصيغها الشائعة، موثقة وقابلة للتحديث.

  2. ٠٢

    نموذج تصنيف أو نمذجة موضوعات مدرب على بياناتكم، مع تقرير أداء على عينة اختبار مستقلة.

  3. ٠٣

    جداول ورسوم تبين حجم كل موضوع واتجاه المشاعر وتغيرها عبر الزمن والفئات.

  4. ٠٤

    أمثلة نصية ممثلة لكل موضوع أو فئة تساعد على تفسير النتائج والتحقق منها.

  5. ٠٥

    كود Python أو R موثق قابل لإعادة التنفيذ على الدفعات الجديدة من النصوص.

منهجيات أخرى

ضمن خدمة تحليل البيانات المتقدم

تفاصيل الخدمة كاملة ←
٠١

التعلم الآلي والنماذج التنبؤية

نماذج تتنبأ بالطلب والمخاطر والتسرب، مع تحقق متقاطع ومقاييس دقة واضحة وتفسير لأهم العوامل.

التفاصيل والنماذج ←
٠٢

السلاسل الزمنية والتنبؤ

نماذج ARIMA وETS وProphet لتوقع المؤشرات الاقتصادية والتشغيلية بفترات ثقة.

التفاصيل والنماذج ←
٠٣

تقييم الأثر والاستدلال السببي

تصاميم الفروق في الفروق (DiD) ومطابقة درجة الميل (PSM) لقياس الأثر الفعلي للبرامج والسياسات.

التفاصيل والنماذج ←
٠٤

النماذج متعددة المستويات والبايزية

نماذج للبيانات المتداخلة وبيانات البانل، وتقديرات بايزية بفترات مصداقية.

التفاصيل والنماذج ←
٠٦

التحليل المكاني GIS

خرائط وتحليل للارتباط المكاني يكشف التفاوت بين المناطق وبؤر التركز.

التفاصيل والنماذج ←
٠٧

لوحات المؤشرات التفاعلية

لوحات بـ Power BI وTableau وShiny وDash تتجدد مع وصول البيانات.

التفاصيل والنماذج ←
٠٨

المسوح المعقدة وأوزانها

أوزان المعاينة والتصاميم الطبقية والعنقودية وتقديرات المناطق الصغيرة.

التفاصيل والنماذج ←

من المدونة

اقرأ عن هذه المنهجية

كل مقالات «علم البيانات» ←
علم البيانات··10 دقائق قراءة

تحليل النصوص العربية ببايثون: من التطبيع إلى الموضوعات وتحليل المشاعر

دليل عملي لتحليل النصوص العربية ببايثون: التطبيع وإزالة التشكيل والتطويل، والتقطيع وكلمات التوقف، وTF-IDF، والنمذجة الموضوعية، وتحليل المشاعر بالمعاجم ونماذج BERT، وتقييم النتائج.

التحليل الإحصائي··8 دقائق قراءة

التحليل الموضوعي للبيانات النوعية: مراحل براون وكلارك الست بمثال تطبيقي

دليل خطوة بخطوة إلى التحليل الموضوعي للبيانات النوعية وفق مراحل براون وكلارك الست، مع جدول ترميز تطبيقي، وطريقة كتابة المنهجية وعرض الموضوعات في فصل النتائج.

علم البيانات··10 دقائق قراءة

بناء نموذج تنبؤي بلغة بايثون: دليل عملي للتقييم والتفسير مع scikit-learn

دليل عملي لبناء نموذج تنبؤي بلغة بايثون وتقييمه باستخدام scikit-learn: خطوط المعالجة، والتحقق المتقاطع، ومقاييس الأداء، وعدم توازن الفئات، وتسرب البيانات، وتفسير النموذج.

لديك بيانات وسؤال؟

نبدأ باستشارة مبدئية مجانية نحدد فيها السؤال والبيانات والمنهجية المناسبة، ونرد عليك خلال ساعة.

الأسئلة الشائعة

أسئلة عن تحليل النصوص العربية والإنجليزية

هل تتعاملون مع العامية والنصوص المختلطة بالإنجليزية؟
نعم، نضيف إلى خطوات التطبيع قواعد ومعاجم للصيغ العامية الشائعة في بياناتكم وللكلمات المكتوبة بالحروف اللاتينية، ونقيس أثر ذلك على أداء النموذج قبل اعتماده. ويختلف الأداء الممكن بحسب اللهجة وحجم العينة الموسومة المتاحة.
متى نحتاج إلى نماذج المحولات مثل AraBERT بدلًا من TF-IDF؟
عندما تعتمد الفئات على السياق والمعنى أكثر من الكلمات المفردة، وتتوفر عينة موسومة كافية لضبط النموذج. نبدأ عادةً بنموذج أساسي بسيط للمقارنة، ولا ننتقل إلى نموذج أعقد إلا إذا تحسن الأداء على عينة الاختبار بما يبرر تكلفته الحسابية.
ما البيانات التي نحتاج إلى توفيرها، وكيف تحافظون على سريتها؟
يكفي ملف أو جدول يضم النصوص مع الحقول الوصفية المتاحة مثل التاريخ والجهة والفئة، وعينة موسومة إن وجدت. لا نشارك البيانات مع أي جهة، ونوصي بإزالة الأسماء وأرقام الهوية وبيانات التواصل قبل الإرسال.
هل يمكن تحليل النصوص العربية والإنجليزية في مشروع واحد؟
نعم، نعالج كل لغة بخطوات تطبيع وتمثيل مناسبة لها، ثم نوحد الفئات والموضوعات في إطار تصنيف مشترك يسمح بالمقارنة بين المصدرين.
ESC
اكتب كلمة مفتاحية ثم اضغط Enter — مثل: «منهجية»، «إحصاء»، «اقتباس»، «نشر».