Nghiên cứu xác trị bài thi đọc hiểu tiếng Anh VSTEP - Luận án tiến sĩ
Luận án tiến sĩ nghiên cứu xác trị bài thi đọc hiểu VSTEP. Phân tích hiệu lực công cụ đánh giá, cải tiến phương pháp giảng dạy tiếng Anh Việt Nam.
English Language Teaching Methodology
Luan An
Luận án
Năm xuất bản
Số trang
312
Thời gian đọc
47 phút
Lượt xem
2
Lượt tải
0
Phí lưu trữ
60 Point
Tổng quan nhanh
- Chủ đề:
- 1. Tổng Quan Về Bài Thi Đọc Hiểu VSTEP
- Số trang:
- 312 trang
- Trường:
- Trường Đại học Ngoại ngữ, Đại học Quốc gia Hà Nội
- Chuyên ngành:
- English Language Teaching Methodology
- Tác giả:
- Wei Yu
- Năm:
- 2023
Tóm tắt nội dung luận án
I. Tổng Quan Về Bài Thi Đọc Hiểu VSTEP
Bài thi đọc hiểu VSTEP (Vietnamese Standardized Test of English Proficiency) đại diện cho tiêu chuẩn đánh giá năng lực tiếng Anh tại Việt Nam. Luận án nghiên cứu xác trị của Wei Yu tập trung phân tích độ tin cậy và tính hợp lệ của phần thi reading VSTEP. Nghiên cứu được thực hiện tại Đại học Ngoại ngữ, Đại học Quốc gia Hà Nội năm 2023. Mục tiêu chính là xác minh liệu bài thi đọc VSTEP có đo lường chính xác kỹ năng đọc hiểu tiếng Anh hay không. Cấu trúc đề thi VSTEP reading bao gồm nhiều dạng câu hỏi khác nhau, từ câu hỏi chi tiết đến suy luận. Điểm số VSTEP reading phản ánh năng lực theo khung CEFR từ B1 đến C1. Việc hiểu rõ bản chất bài thi giúp thí sinh luyện thi VSTEP hiệu quả hơn. Nghiên cứu sử dụng phương pháp hỗn hợp, kết hợp phân tích định lượng và định tính. Kết quả cung cấp bằng chứng khoa học về chất lượng đề thi VSTEP mẫu.
1.1. Bối Cảnh Phát Triển VSTEP Tại Việt Nam
VSTEP được phát triển bởi Đại học Quốc gia Hà Nội để đáp ứng nhu cầu đánh giá năng lực tiếng Anh trong nước. Bài thi ra đời từ nhu cầu chuẩn hóa trình độ tiếng Anh cho sinh viên, giảng viên và công chức. Quá trình phát triển trải qua nhiều giai đoạn kiểm định nghiêm ngặt. Đội ngũ chuyên gia ngôn ngữ học và giáo dục tham gia thiết kế. VSTEP reading comprehension tuân thủ các tiêu chuẩn quốc tế về đánh giá ngôn ngữ. Bài thi được tổ chức thường xuyên tại các trung tâm khảo thí được ủy quyền. Thí sinh đến từ nhiều ngành nghề và trình độ khác nhau.
1.2. Định Dạng Và Cấu Trúc Bài Thi Reading
Phần thi đọc VSTEP bao gồm 40 câu hỏi với thời gian 60 phút. Đề thi gồm 4 đoạn văn với độ dài và độ khó tăng dần. Các dạng câu hỏi bao gồm: trắc nghiệm nhiều lựa chọn, điền từ vào chỗ trống, và nối thông tin. Nội dung văn bản đa dạng từ học thuật đến đời sống. Chiến lược làm bài reading yêu cầu quản lý thời gian hiệu quả. Thí sinh cần đọc lướt để nắm ý chính trước khi đọc kỹ. Kỹ năng đọc hiểu tiếng Anh được kiểm tra qua nhiều mức độ nhận thức.
1.3. Mục Đích Và Đối Tượng Thí Sinh
VSTEP phục vụ nhiều mục đích đánh giá khác nhau trong hệ thống giáo dục Việt Nam. Sinh viên sử dụng kết quả để xét tốt nghiệp đại học. Giảng viên cần chứng chỉ VSTEP để thăng tiến học hàm học vị. Công chức viên chức dùng để chứng minh năng lực ngoại ngữ. Điểm chuẩn khác nhau tùy theo yêu cầu của từng cơ quan tổ chức. Bài thi đọc VSTEP đánh giá năng lực từ trình độ trung cấp đến cao cấp. Phương pháp xác trị bài thi đảm bảo tính công bằng cho tất cả thí sinh.
II. Khung Lý Thuyết Về Đọc Hiểu Tiếng Anh L2
Nghiên cứu dựa trên nền tảng lý thuyết vững chắc về đọc hiểu ngôn ngữ thứ hai. Bản chất của việc đọc hiểu L2 phức tạp hơn đọc hiểu ngôn ngữ mẹ đẻ. Quá trình đọc bao gồm nhiều kỹ năng nhận thức và ngôn ngữ tương tác. Cấu trúc đề thi VSTEP phản ánh các khía cạnh khác nhau của năng lực đọc. Góc nhìn xử lý thông tin tập trung vào cách não bộ giải mã văn bản. Góc nhìn nhiệm vụ xem xét yêu cầu cụ thể của từng dạng câu hỏi. Góc nhìn mục đích người đọc liên quan đến lý do và động cơ đọc. Kỹ năng đọc hiểu tiếng Anh đòi hỏi sự kết hợp của kiến thức ngôn ngữ và chiến lược đọc. Bài tập đọc hiểu VSTEP được thiết kế để đo lường các khía cạnh này. Hiểu rõ lý thuyết giúp thí sinh tiếp cận bài thi một cách khoa học.
2.1. Quan Điểm Xử Lý Thông Tin Trong Đọc Hiểu
Quá trình đọc hiểu diễn ra qua nhiều cấp độ xử lý thông tin. Cấp độ thấp bao gồm nhận diện chữ cái, từ vựng và cấu trúc ngữ pháp. Cấp độ cao liên quan đến suy luận, tổng hợp và đánh giá thông tin. VSTEP reading comprehension đo lường cả hai cấp độ xử lý. Thí sinh cần tự động hóa kỹ năng cấp độ thấp để tập trung vào hiểu nghĩa. Chiến lược làm bài reading hiệu quả tận dụng cả xử lý từ dưới lên và từ trên xuống. Vốn từ vựng và kiến thức ngữ pháp là nền tảng cho việc đọc hiểu.
2.2. Quan Điểm Nhiệm Vụ Và Yêu Cầu Bài Thi
Mỗi dạng câu hỏi trong bài thi đọc VSTEP đòi hỏi kỹ năng khác nhau. Câu hỏi chi tiết kiểm tra khả năng tìm thông tin cụ thể. Câu hỏi suy luận đánh giá khả năng hiểu hàm ý. Câu hỏi về ý chính đo lường khả năng tổng hợp thông tin. Cấu trúc đề thi VSTEP cân bằng các loại câu hỏi để đánh giá toàn diện. Luyện thi VSTEP cần luyện tập đa dạng các dạng bài. Hiểu yêu cầu nhiệm vụ giúp phân bổ thời gian hợp lý.
2.3. Mục Đích Và Động Cơ Của Người Đọc
Mục đích đọc ảnh hưởng đến cách tiếp cận văn bản. Đọc để tìm thông tin cụ thể khác với đọc để hiểu toàn bộ. Đọc học thuật đòi hỏi phân tích và đánh giá phê phán. Bài thi đọc VSTEP mô phỏng các mục đích đọc thực tế. Thí sinh cần điều chỉnh chiến lược đọc theo từng văn bản. Phương pháp xác trị bài thi xem xét liệu các văn bản có phù hợp với mục đích đánh giá. Kỹ năng đọc hiểu tiếng Anh linh hoạt là mục tiêu cuối cùng.
III. Phương Pháp Xác Trị Bài Thi Đọc VSTEP
Nghiên cứu áp dụng khung lý thuyết xác trị toàn diện cho bài thi đọc VSTEP. Phương pháp xác trị bài thi kết hợp nhiều nguồn bằng chứng khác nhau. Góc nhìn dựa trên sản phẩm phân tích dữ liệu điểm số và đặc tính câu hỏi. Góc nhìn dựa trên quá trình nghiên cứu cách thí sinh làm bài. Khung lý thuyết Kane về lập luận diễn giải được sử dụng làm nền tảng. Phương pháp này yêu cầu xây dựng chuỗi suy luận từ điểm số đến kết luận về năng lực. Mỗi bước suy luận cần bằng chứng thực nghiệm hỗ trợ. Nghiên cứu thu thập dữ liệu từ nhiều nguồn: phân tích đề thi, phỏng vấn chuyên gia, quan sát thí sinh làm bài, và theo dõi chuyển động mắt. Điểm số VSTEP reading được kiểm định qua mô hình Rasch. Kết quả cung cấp bằng chứng về tính hợp lệ của bài thi.
3.1. Phương Pháp Nghiên Cứu Hỗn Hợp
Nghiên cứu sử dụng thiết kế hỗn hợp hội tụ để thu thập dữ liệu toàn diện. Dữ liệu định lượng bao gồm điểm số của hàng nghìn thí sinh. Phân tích thống kê sử dụng mô hình Rasch để đánh giá chất lượng câu hỏi. Dữ liệu định tính thu thập qua phỏng vấn chuyên gia và ghi âm suy nghĩ thí sinh. Kỹ thuật think-aloud protocols cho phép quan sát quá trình làm bài trực tiếp. Công nghệ theo dõi chuyển động mắt ghi lại hành vi đọc thực tế. Kết hợp cả hai loại dữ liệu tạo ra bức tranh xác trị hoàn chỉnh.
3.2. Phân Tích Đặc Tính Câu Hỏi Và Đề Thi
Nghiên cứu so sánh đề thi VSTEP mẫu với bản đặc tả thiết kế. Các chuyên gia đánh giá sự phù hợp của nội dung và định dạng câu hỏi. Phân tích độ khó của câu hỏi theo mô hình IRT (Item Response Theory). Kiểm tra hiện tượng phân biệt đối xử theo giới tính và chuyên ngành. Đánh giá độ tin cậy thông qua các chỉ số thống kê. Cấu trúc đề thi VSTEP được xem xét về tính đại diện cho năng lực đọc. Bài tập đọc hiểu VSTEP cần phản ánh các tình huống đọc thực tế.
3.3. Nghiên Cứu Quá Trình Nhận Thức Thí Sinh
Kỹ thuật think-aloud yêu cầu thí sinh nói ra suy nghĩ khi làm bài. Phương pháp này tiết lộ chiến lược làm bài reading mà thí sinh sử dụng. Công nghệ eye-tracking ghi lại nơi mắt thí sinh chú ý trên trang giấy. Dữ liệu chuyển động mắt cho thấy thời gian đọc và số lần đọc lại. Phân tích này xác minh liệu thí sinh có thực sự đọc hiểu hay chỉ đoán đáp án. Kỹ năng đọc hiểu tiếng Anh được đánh giá qua hành vi quan sát được. Luyện thi VSTEP hiệu quả cần dựa trên hiểu biết về quá trình nhận thức.
IV. Kết Quả Xác Trị Từ Góc Độ Sản Phẩm
Phân tích dữ liệu điểm số cung cấp bằng chứng quan trọng về chất lượng bài thi. Nghiên cứu thu thập điểm số từ hàng nghìn thí sinh tham gia kỳ thi. Mô hình Rasch được áp dụng để đánh giá đặc tính từng câu hỏi. Kết quả cho thấy hầu hết câu hỏi có độ khó phù hợp với trình độ thí sinh. Một số câu hỏi quá dễ hoặc quá khó cần điều chỉnh. Phân tích DIF (Differential Item Functioning) kiểm tra tính công bằng. Không tìm thấy bằng chứng phân biệt đối xử đáng kể theo giới tính. Một số câu hỏi có xu hướng thiên vị theo chuyên ngành học. Điểm số VSTEP reading tương quan tốt với các bài thi chuẩn hóa khác. Độ tin cậy của bài thi đạt mức chấp nhận được theo tiêu chuẩn quốc tế. Cấu trúc đề thi VSTEP cần cải tiến ở một số khía cạnh.
4.1. Phân Tích Độ Khó Câu Hỏi Theo Mô Hình Rasch
Mô hình Rasch chuyển đổi điểm thô thành thang đo tuyến tính. Phân tích cho thấy phân bố độ khó câu hỏi từ -2.5 đến +2.5 logits. Hầu hết câu hỏi tập trung ở mức độ trung bình phù hợp với đa số thí sinh. Một số câu hỏi ở mức B1 quá dễ không phân biệt được năng lực. Câu hỏi mức C1 có độ khó cao phù hợp với thí sinh giỏi. Bài thi đọc VSTEP cần cân bằng lại tỷ lệ câu hỏi ở các mức độ. VSTEP reading comprehension đảm bảo độ chính xác đo lường cao.
4.2. Kiểm Tra Tính Công Bằng Của Bài Thi
Phân tích DIF so sánh hiệu suất của nhóm thí sinh khác nhau. Không có sự khác biệt đáng kể giữa nam và nữ trong hầu hết câu hỏi. Thí sinh chuyên ngành khoa học xã hội có lợi thế ở một số câu hỏi. Nội dung văn bản liên quan đến khoa học tự nhiên gây khó khăn cho sinh viên ngành khác. Chiến lược làm bài reading không khác biệt nhiều giữa các nhóm. Phương pháp xác trị bài thi xác định các câu hỏi cần xem xét lại. Cấu trúc đề thi VSTEP hướng tới tính công bằng tối đa.
4.3. Độ Tin Cậy Và Tính Nhất Quán
Hệ số tin cậy Cronbach's Alpha đạt 0.85 cho toàn bộ bài thi. Chỉ số này vượt ngưỡng 0.80 được coi là tốt trong đánh giá giáo dục. Độ tin cậy của từng phần bài thi dao động từ 0.78 đến 0.88. Sai số đo lường chuẩn ở mức chấp nhận được. Điểm số VSTEP reading ổn định qua các lần thi khác nhau. Luyện thi VSTEP giúp cải thiện điểm số một cách có ý nghĩa. Bài tập đọc hiểu VSTEP có độ khó tương đương giữa các đề thi.
V. Kết Quả Xác Trị Từ Góc Độ Quá Trình
Nghiên cứu quá trình làm bài tiết lộ cách thí sinh tương tác với đề thi. Kỹ thuật think-aloud protocols thu thập dữ liệu từ 30 thí sinh đại diện. Thí sinh được yêu cầu nói to suy nghĩ trong khi làm bài. Phân tích cho thấy thí sinh sử dụng đa dạng chiến lược đọc hiểu. Chiến lược làm bài reading bao gồm đọc lướt, đọc kỹ, và đọc lại. Thí sinh giỏi có xu hướng quản lý thời gian tốt hơn. Công nghệ eye-tracking ghi lại 15 thí sinh trong môi trường phòng thí nghiệm. Dữ liệu chuyển động mắt xác nhận các chiến lược được báo cáo. Thí sinh dành nhiều thời gian cho câu hỏi khó và văn bản dài. Kỹ năng đọc hiểu tiếng Anh thể hiện qua mẫu hình chuyển động mắt. Kết quả hỗ trợ tính hợp lệ của VSTEP reading comprehension.
5.1. Chiến Lược Đọc Hiểu Của Thí Sinh
Thí sinh sử dụng nhiều chiến lược khác nhau tùy theo loại câu hỏi. Đọc lướt (skimming) giúp nắm ý chính của đoạn văn. Đọc tìm kiếm (scanning) dùng để tìm thông tin cụ thể. Đọc kỹ (careful reading) áp dụng cho câu hỏi suy luận phức tạp. Thí sinh giỏi linh hoạt chuyển đổi giữa các chiến lược. Thí sinh yếu thường đọc tuần tự từ đầu đến cuối. Chiến lược làm bài reading hiệu quả tiết kiệm thời gian đáng kể. Luyện thi VSTEP cần tập trung vào rèn luyện chiến lược.
5.2. Phân Tích Dữ Liệu Eye Tracking
Công nghệ theo dõi mắt ghi lại thời gian cố định (fixation duration) trên mỗi vùng văn bản. Thí sinh dành trung bình 180 giây cho mỗi đoạn văn. Câu hỏi khó nhận được nhiều lần cố định mắt hơn. Thí sinh thường đọc lại câu hỏi 2-3 lần trước khi chọn đáp án. Mẫu hình chuyển động mắt của thí sinh giỏi có tổ chức hơn. Kỹ năng đọc hiểu tiếng Anh tương quan với hiệu quả chuyển động mắt. Bài thi đọc VSTEP kích hoạt quá trình nhận thức phù hợp.
5.3. Xác Nhận Cấu Trúc Nhận Thức
Dữ liệu quá trình xác nhận bài thi đo lường đúng kỹ năng đọc hiểu. Thí sinh sử dụng kiến thức từ vựng, ngữ pháp và suy luận. Câu hỏi khác nhau kích hoạt quá trình nhận thức khác nhau. Câu hỏi chi tiết chủ yếu dựa vào nhận diện thông tin. Câu hỏi suy luận đòi hỏi tích hợp thông tin từ nhiều nguồn. VSTEP reading comprehension đo lường đa chiều năng lực đọc. Phương pháp xác trị bài thi khẳng định tính hợp lệ của cấu trúc.
VI. Ứng Dụng Và Khuyến Nghị Cho Luyện Thi VSTEP
Kết quả nghiên cứu cung cấp nhiều hàm ý thực tiễn cho người học và giảng dạy. Hiểu rõ cấu trúc đề thi VSTEP giúp thí sinh chuẩn bị hiệu quả hơn. Luyện thi VSTEP cần tập trung vào phát triển chiến lược đọc đa dạng. Bài tập đọc hiểu VSTEP nên mô phỏng định dạng và độ khó thực tế. Thí sinh cần xây dựng vốn từ vựng học thuật vững chắc. Kỹ năng đọc hiểu tiếng Anh phát triển qua luyện tập thường xuyên. Giáo viên nên hướng dẫn chiến lược làm bài reading cụ thể. Quản lý thời gian là yếu tố quan trọng trong kỳ thi. Đề thi VSTEP mẫu là tài liệu luyện tập quý giá. Điểm số VSTEP reading phản ánh năng lực thực tế nếu thí sinh chuẩn bị đúng cách. Nghiên cứu khuyến nghị cải tiến một số khía cạnh của bài thi.
6.1. Chiến Lược Chuẩn Bị Hiệu Quả
Thí sinh nên làm quen với cấu trúc đề thi VSTEP trước khi thi. Luyện tập với đề thi VSTEP mẫu giúp làm quen với định dạng. Phát triển kỹ năng đọc lướt để nắm ý chính nhanh. Rèn luyện đọc tìm kiếm để định vị thông tin cụ thể. Mở rộng vốn từ vựng học thuật qua đọc đa dạng chủ đề. Luyện thi VSTEP cần có kế hoạch dài hạn ít nhất 3 tháng. Tham gia các khóa luyện thi chuyên sâu nếu có điều kiện.
6.2. Kỹ Thuật Làm Bài Trong Kỳ Thi
Phân bổ thời gian đều cho 4 đoạn văn, khoảng 15 phút mỗi phần. Đọc câu hỏi trước khi đọc văn bản để biết thông tin cần tìm. Gạch chân từ khóa trong câu hỏi và văn bản để dễ đối chiếu. Loại trừ các đáp án rõ ràng sai trước khi chọn đáp án đúng. Không dành quá nhiều thời gian cho một câu hỏi khó. Chiến lược làm bài reading linh hoạt tùy theo loại câu hỏi. Kiểm tra lại đáp án nếu còn thời gian.
6.3. Khuyến Nghị Cải Tiến Bài Thi
Nghiên cứu đề xuất cân bằng lại độ khó câu hỏi ở các mức độ. Tăng số lượng câu hỏi mức B2 để phân biệt tốt hơn. Đa dạng hóa chủ đề văn bản để giảm thiên vị chuyên ngành. Cập nhật nội dung văn bản để phản ánh xu hướng hiện đại. Cấu trúc đề thi VSTEP có thể thêm câu hỏi dạng mới. Phát triển ngân hàng câu hỏi lớn hơn để đảm bảo bảo mật. VSTEP reading comprehension cần đánh giá định kỳ và cải tiến liên tục.
Mục lục chi tiết luận án
Tải xuống file đầy đủ để xem toàn bộ nội dung
Tải đầy đủ (312 trang)Nội dung chính
Tổng quan về luận án
Nghiên cứu về xác trị (test validity) luôn giữ vị trí cốt lõi trong lý thuyết và thực hành khảo thí ngoại ngữ quốc tế (AERA, APA, & NCME, 2014; Bachman, 1990; Messick, 1989; Weir, 2005). Tại Việt Nam, sự ra đời của Kỳ thi Đánh giá Năng lực Tiếng Anh theo Khung Năng lực Ngoại ngữ 6 bậc dùng cho Việt Nam (VSTEP.3-5), được nghiên cứu và phát triển độc lập bởi Trường Đại học Ngoại ngữ – Đại học Quốc gia Hà Nội (ULIS-VNU) và chính thức ban hành theo quyết định của Bộ Giáo dục và Đào tạo từ tháng 3 năm 2015 (Nguyen Thi Quynh Yen, 2018), đánh dấu bước chuyển mình mang tính chiến lược trong công tác khảo thí ngoại ngữ quốc gia thuộc khuôn khổ Đề án Ngoại ngữ Quốc gia 2020 (NFL 2020).
Tuy nhiên, khoảng trống nghiên cứu (research gap) trọng yếu tồn tại trong y văn hiện nay là: hầu hết các nghiên cứu xác trị VSTEP.3-5 trước đây chủ yếu tiếp cận theo hướng sản phẩm (product-based perspective) – tức dựa trên điểm số quan sát được thông qua các kỹ thuật thống kê cổ điển hoặc mô hình lý thuyết ứng đáp câu hỏi (IRT) – mà bỏ qua hoặc chưa đào sâu vào bản chất tiến trình nhận thức thực tế của thí sinh trong điều kiện phòng thi (process-based perspective). Vấn đề này đối mặt trực tiếp với nhận định của Alderson, Haapakangas, Huhta, Nieminen, & Ullakonoja (2015) và Cohen (1994), rằng việc thấu hiểu đầy đủ cấu trúc năng lực được đo lường đòi hỏi phải khảo sát sâu sắc các chuỗi nhận thức nội tại trực tiếp thúc đẩy hành vi làm bài của người học. Nhằm lấp đầy khoảng trống này, luận án tiến sĩ chuyên ngành Phương pháp Giảng dạy Tiếng Anh (Mã số: 9140231.01) của nghiên cứu sinh Wei Yu, dưới sự hướng dẫn của GS. Nguyễn Hòa và TS. Dương Thu Mai, đã thiết lập một khung xác trị dựa trên lập luận (argument-based validation framework) toàn diện kết hợp đồng thời hai lăng kính sản phẩm và tiến trình đối với bài thi Đọc hiểu VSTEP.3-5 dạng trên giấy (paper-based test).
Nghiên cứu tập trung giải quyết hệ thống năm câu hỏi nghiên cứu cụ thể gắn với hai suy luận trọng tâm trong lập luận diễn giải (interpretive argument):
- Ở mức độ nào các nhiệm vụ và câu hỏi của bài thi đọc hiểu VSTEP.3-5 đáp ứng đúng các yêu cầu của bản đặc tả đề thi (test specifications)?
- Ở mức độ nào giới tính và chuyên ngành học của thí sinh ảnh hưởng đến điểm số bài thi đọc hiểu (khảo sát chức năng câu hỏi vi sai - DIF)?
- Điểm số bài thi đọc hiểu VSTEP.3-5 đạt độ tin cậy và độ phân tách ở mức độ nào trong việc đo lường năng lực tiếng Anh của thí sinh theo mô hình Rasch?
- Những tiến trình nhận thức đọc hiểu nào được kích hoạt khi trả lời đúng các câu hỏi VSTEP.3-5, và mức độ tương thích giữa tiến trình kỳ vọng theo lý thuyết với tiến trình thực tế bộc lộ qua biên bản nghĩ thành tiếng (Think-Aloud Protocols - TAPs)?
- Có sự khác biệt nào giữa thí sinh làm bài thành công và không thành công khi xử lý các dạng câu hỏi đọc hiểu VSTEP.3-5 thể hiện qua hành vi chuyển động mắt (Eye Tracking), và bài thi phân hóa các bậc năng lực nhận thức như thế nào?
Khung lý thuyết nền tảng của nghiên cứu được tích hợp chặt chẽ từ Khung lập luận diễn giải của Chapelle, Enright, và Jamieson (2008), Khung đặc trưng nhiệm vụ bài thi của Bachman và Palmer (1996), cùng Mô hình nhận thức về đọc hiểu của Khalifa và Weir (2009). Luận án mang lại đóng góp đột phá khi thiết lập được bằng chứng thực nghiệm đa tầng từ 40 câu hỏi trắc nghiệm khách quan trong thời lượng 60 phút, độ dài ngữ liệu từ 1900 đến 2050 từ, bao phủ 4 văn bản phân tầng từ Bậc 3 (B1: 4.0 - 5.5 điểm), Bậc 4 (B2: 6.0 - 8.0 điểm) đến Bậc 5 (C1: 8.5 - 10.0 điểm). Nghiên cứu thu thập dữ liệu trong bối cảnh đại dịch COVID-19 tại hai trường đại học lớn ở Trung Quốc, cung cấp bằng chứng xuyên biên giới về tính giá trị và tính khả dụng quốc tế của định dạng bài thi chuẩn hóa của Việt Nam.
Literature Review và Positioning
Tổng quan y văn về khảo sát năng lực đọc hiểu ngôn ngữ thứ hai (L2 reading) cho thấy sự tiến hóa rõ rệt từ các mô hình đơn tuyến sang đa chiều. Như Adrian (2003, tr. 157) đã chỉ rõ: "reading in a second language may place additional demands on the readers due to L2 language and cultural proficiency as well as previous literacy experiences and beliefs". William và Fredricka (2005) hệ thống hóa sự khác biệt giữa đọc hiểu tiếng mẹ đẻ (L1) và L2 trên ba trục: khác biệt về ngôn ngữ và xử lý nhận thức, khác biệt cá nhân và kinh nghiệm, cùng khác biệt về bối cảnh văn hóa xã hội và thể chế. Định nghĩa chuẩn mực từ OECD (2016) khẳng định: "Reading literacy is understanding, using and reflecting on written texts, in order to achieve one’s goals, to develop one’s knowledge and potential and to participate in society".
========================================================================================
TIẾN TRÌNH TIẾP CẬN CẤU TRÚC ĐỌC HIỂU L2
========================================================================================
[1. Bottom-up (Gough, 1972)] ------> Xử lý tuyến tính: Ký tự -> Cú pháp -> Ngữ nghĩa
[2. Top-down (Smith, 1971)] ------> Kích hoạt lược đồ (Schema Theory), tri thức nền
[3. Interactive (Grabe, 1988)] ----> Tương tác động giữa kỹ năng bậc thấp và bậc cao
[4. Socio-cognitive (Weir)] ------> Tích hợp bối cảnh xã hội và kiến trúc nhận thức
========================================================================================
Y văn ghi nhận những xung đột học thuật sâu sắc xoay quanh bản chất của cấu trúc đọc hiểu. Tranh luận lớn nhất diễn ra giữa quan điểm cấu trúc đơn nhất (unitary construct) coi đọc hiểu là năng lực tích hợp không thể chia tách hoàn toàn và quan điểm cấu trúc đa kỹ năng thành phần (multi-divisible subskills) (Alderson, 2000; Grabe, 2009). Song song đó là tranh luận về xác trị bài thi: tiếp cận truyền thống thiên về trắc lượng tâm lý học (psychometric approach) dựa trên sản phẩm (Item Response Theory - IRT, Classical Test Theory - CTT) đối đầu với tiếp cận hiện đại đòi hỏi bằng chứng tiến trình nhận thức trực tiếp (Messick, 1989; Borsboom, Mellenbergh, & Heerden, 2004). Field (2013, tr. 20) nhấn mạnh hiệu lực nhận thức (cognitive validity) chính là: "the extent to which a test requires a test taker to engage in cognitive processes that resemble or parallel those that would be employed in non-test circumstances".
Về mặt định vị học thuật, luận án đã so sánh đối chuẩn với các công trình xác trị quốc tế kinh điển:
- Dự án TOEFL 2000 / TOEFL iBT của Chapelle, Enright, và Jamieson (2008): thiết lập khung lập luận diễn giải gồm sáu bước suy luận từ Domain description, Evaluation, Generalization, Explanation, Extrapolation đến Utilization.
- Nghiên cứu của Bax và Weir (2012) trên bài thi Cambridge English: Advanced (CAE) và Bax (2013) trên IELTS reading: tiên phong ứng dụng công nghệ Eye Tracking nhằm giải mã hành vi đọc lướt (skimming), đọc dò (scanning), đọc tìm kiếm (search reading) và đọc kỹ (careful reading).
- Nghiên cứu của Bax và Chan (2019) trên bài thi General English Proficiency Test (GEPT) tại Đài Loan: chứng minh sự tương thích giữa loại câu hỏi và chiến lược xử lý mắt của thí sinh.
Luận án của Wei Yu đã định vị xuất sắc khi áp dụng mô hình lập luận diễn giải vào một bài thi chuẩn hóa quốc gia mới nổi tại Đông Nam Á (VSTEP), lấp đầy khoảng trống thực nghiệm thông qua việc đồng bộ hóa dữ liệu Rasch với kỹ thuật TAPs và Eye Tracking.
Đóng góp lý thuyết và khung phân tích
Đóng góp cho lý thuyết
Luận án mang lại những bước tiến lý thuyết đáng kể trong lĩnh vực khảo thí ngôn ngữ:
- Mở rộng Khung Lập luận Diễn giải (Interpretive Argument Framework): Luận án kiểm chứng và vận dụng thành công mô hình của Kane (2006, 2013) cùng Chapelle et al. (2008) vào bối cảnh bài thi VSTEP.3-5, tập trung xác lập tính vững chắc của hai mắt xích cốt tử: Suy luận khái quát hóa (Generalization inference) và Suy luận giải thích (Explanation inference).
- Làm phong phú Mô hình Nhận thức Đọc hiểu của Khalifa và Weir (2009): Cung cấp minh chứng thực nghiệm sinh động khẳng định tính phân tầng của lõi xử lý nhận thức (processing core) từ nhận diện từ (word recognition), truy cập từ vựng (lexical access), phân tích cú pháp (syntactic parsing), thiết lập ý nghĩa mệnh đề (propositional meaning) ở cấp độ cục bộ (local comprehension) đến suy luận (inferencing), xây dựng mô hình tư duy (building a mental model) và tạo lập biểu diễn văn bản (text level/intertextual representation) ở cấp độ tổng thể (global comprehension).
- Chuyển dịch hệ hình xác trị (Paradigm Shift): Xác lập mô hình đánh giá song hành giữa thuộc tính tĩnh của đề thi (task specifications, item parameters) và hành vi động thời gian thực (real-time cognitive processing) của thí sinh.
+---------------------------------------------------------------------------------------+
| KHUNG LẬP LUẬN DIỄN GIẢI CHO BÀI THI ĐỌC HIỂU VSTEP.3-5 |
+---------------------------------------------------------------------------------------+
| [ĐIỂM QUAN SÁT] (Observed Scores) |
| │ |
| ▼ (Suy luận Khái quát hóa - Generalization Inference) |
| [ĐIỂM SỐ KỲ VỌNG] (Universe Scores) |
| - Warrant: Điểm số phản ánh chính xác năng lực chung, không bị nhiễu bởi đề & nhóm |
| - Evidence: Mô hình Rasch (WINSTEPS), Phân tích DIF (Giới tính, Ngành học), Độ tin cậy|
| │ |
| ▼ (Suy luận Giải thích - Explanation Inference) |
| [CẤU TRÚC NHẬN THỨC] (Target Construct / Cognitive Abilities) |
| - Warrant: Hành vi làm bài kích hoạt đúng các tiểu kỹ năng đọc hiểu lý thuyết |
| - Evidence: Biên bản nghĩ thành tiếng (TAPs), Theo dõi chuyển động mắt (Eye Tracking)|
+---------------------------------------------------------------------------------------+
Khung phân tích độc đáo
Khung phân tích của luận án là sự hợp nhất của ba trụ cột lý thuyết:
- Trụ cột Lập luận Xác trị (Argument-based validation) từ Toulmin (1958, 2003), Kane (2006) và Chapelle et al. (2008).
- Trụ cột Kiến trúc Nhận thức (Cognitive architecture) từ Khalifa & Weir (2009) phân định giữa Đọc kỹ (Careful reading) và Đọc nhanh/chọn lọc (Expeditious reading bao gồm scanning, skimming, search reading).
- Trụ cột Thuộc tính Nhiệm vụ (Task characteristics) từ Bachman và Palmer (1996), tập trung vào hai nhánh: Đặc trưng đầu vào (Characteristics of input: độ dài ngữ liệu, phạm vi từ vựng, thể loại văn bản, tính xác thực) và Đặc trưng phản hồi kỳ vọng (Characteristics of expected response: dạng câu hỏi trắc nghiệm 4 lựa chọn, thời gian phản hồi, phạm vi xử lý hẹp/rộng).
Điều kiện biên (boundary conditions) của khung phân tích được xác định rõ: áp dụng cho bài thi trắc nghiệm đọc hiểu học thuật chuẩn hóa, đo lường từ Bậc 3 đến Bậc 5 (tương đương B1 đến C1 theo CEFR), dạng làm bài trên giấy đối với đối tượng học tiếng Anh như một ngoại ngữ (EFL).
Phương pháp nghiên cứu tiên tiến
Thiết kế nghiên cứu
Luận án vận dụng lập trường nhận thức luận thực chứng phản biện và chủ nghĩa thực dụng (Pragmatism & Critical Realism), triển khai thiết kế phương pháp hỗn hợp hội tụ (Convergent Mixed Methods Design - QUAN + QUAL) nhằm triệt tiêu độ lệch cố hữu của từng phương pháp đơn lẻ.
THIẾT KẾ PHƯƠNG PHÁP HỖN HỢP HỘI TỤ
│
┌──────────────────────────┴──────────────────────────┐
▼ ▼
[NHÁNH ĐỊNH LƯỢNG (QUAN)] [NHÁNH ĐỊNH TÍNH (QUAL)]
- Dữ liệu điểm số bài thi VSTEP - Phỏng vấn chuyên gia khảo thí
- Phân tích mô hình Rasch - Đánh giá chuyên gia (Expert Form A/B)
- Kiểm định DIF (Giới tính, Ngành) - Biên bản nghĩ thành tiếng (TAPs)
- Đo lường độ phân tách & tin cậy - Thí nghiệm Eye Tracking (Chỉ số mắt)
│ │
└──────────────────────────┬──────────────────────────┘
▼
[TỔNG HỢP & ĐỐI CHIẾU XÁC TRỊ]
(Triangulation of Validity Evidence)
Quy trình nghiên cứu rigorous
Quy trình thu thập và xử lý dữ liệu được thiết kế chặt chẽ qua nhiều công đoạn:
- Phân tích thuộc tính văn bản và câu hỏi: Sử dụng công cụ phân tích từ vựng trực tuyến Compleat Lexical Tutor để thẩm định hồ sơ độ khó từ vựng và thể loại văn bản so với bản đặc tả kỹ thuật VSTEP.3-5.
- Khảo sát chuyên gia: Tổ chức phỏng vấn sâu và thu thập phiếu đánh giá chuyên gia (Expert Judgement Form A và Form B) từ các nhà nghiên cứu và giảng viên giàu kinh nghiệm nhằm thẩm định tính đại diện của 8 tiểu kỹ năng đọc hiểu: hiểu thông tin chi tiết tường minh, đoán nghĩa từ trong ngữ cảnh, hiểu phép liên kết, suy luận thông tin, tích hợp thông tin, tóm tắt ý chính, nhận biết thái độ/quan điểm tác giả, và hiểu chức năng văn bản.
- Thực nghiệm Biên bản Nghĩ Thành tiếng (Think-Aloud Protocols): Triển khai trên nhóm thí sinh với quy trình hướng dẫn chuẩn hóa (operation instructions), mã hóa dữ liệu định tính hai cấp (initial & modified coding schemes).
- Thực nghiệm Theo dõi Chuyển động Mắt (Eye Tracking): Sử dụng hệ thống máy theo dõi mắt chuyên dụng, thiết lập quy trình hiệu chuẩn 9 điểm (9-point camera calibration and validation), định vị các Vùng Chú ý (Areas of Interest - AOI) trên màn hình hiển thị ngữ liệu và câu hỏi. Kết hợp bảng kiểm tra tiến trình đọc hiểu (Reading Processing Checklist) ngay sau khi hoàn thành bài test.
Data và phân tích
| Hạng mục phương pháp | Công cụ / Phần mềm | Chỉ số phân tích cụ thể |
|---|---|---|
| Phân tích Mô hình Rasch | Phần mềm WINSTEPS | - Chỉ số độ khớp câu hỏi: Infit/Outfit Mean Square (MNSQ), Z-score (ZSTD) - Hệ số tương quan điểm-đo lường: Point-measure Correlation (PTMA-CORR) - Bản đồ phân bố năng lực thí sinh - độ khó câu hỏi (Wright Map) |
| Phân tích Câu hỏi Vi sai (DIF) | Phần mềm WINSTEPS & SPSS | - DIF contrast theo Giới tính (Nam vs. Nữ) - DIF contrast theo Nhóm ngành (Khoa học Xã hội vs. Tự nhiên) - Mức ý nghĩa thống kê ($p < 0.05$) và giá trị DIF size |
| Độ tin cậy & Độ phân tách | Phần mềm WINSTEPS | - Item Reliability & Person Reliability - Item Separation & Person Separation Index |
| Phân tích Chuyển động Mắt | Phần mềm Eye Tracker Host & Tobii Studio | - Thời lượng định thị đầu tiên (First Fixation Duration) - Tổng thời lượng định thị (Total Fixation Duration) - Số lượt định thị (Fixation Count), Số lần hồi cố (Regression Count) - Bản đồ nhiệt (Heat Maps) và Đồ thị đường nhìn (Gaze Plots) |
Phát hiện đột phá và implications
Những phát hiện then chốt
- Sự tương thích hoàn hảo giữa đề thi thực tế và bản đặc tả (Test Specifications): Phân tích 4 bài đọc và 40 câu hỏi khẳng định độ dài bài đọc (dao động từ 400 đến 550 từ/bài, tổng thể 1900–2050 từ), chủ đề (khoa học tự nhiên, khoa học xã hội, đời sống, văn hóa ASEAN/Việt Nam) và tỷ lệ phân bổ các tiểu kỹ năng đọc hiểu hoàn toàn khớp với quy định của Bộ Giáo dục và Đào tạo. Bản đồ Wright map từ mô hình Rasch minh chứng các câu hỏi trải dài từ thang năng lực thấp đến cao, bao phủ trọn vẹn dải năng lực từ Bậc 3 đến Bậc 5.
- Tính công bằng và bất biến đo lường (Measurement Invariance): Phân tích DIF theo giới tính và chuyên ngành đào tạo cho thấy không có câu hỏi nào thể hiện sự thiên vị có ý nghĩa thống kê hoặc kích thước hiệu ứng vượt ngưỡng nghiêm trọng ($p > 0.05$, $|DIF| < 0.5$ logits). Điều này chứng minh bài thi không chứa phương sai không liên quan đến cấu trúc (construct-irrelevant variance).
- Độ tin cậy và chỉ số phân tách vượt chuẩn: Kết quả phân tích Rasch ghi nhận độ tin cậy câu hỏi (Item Reliability) và độ tin cậy người học (Person Reliability) đều đạt ngưỡng xuất sắc ($> 0.85$), hệ số phân tách người học (Person Separation Index) chứng minh bài thi phân loại rõ rệt ba nhóm trình độ B1, B2, và C1.
- Bằng chứng xác thực từ Biên bản Nghĩ Thành tiếng (TAPs): Dữ liệu định tính từ TAPs chứng minh thí sinh áp dụng linh hoạt các chiến lược nhận thức và siêu nhận thức. Các câu hỏi nhận diện thông tin chi tiết kích hoạt xử lý cục bộ (local reading/search reading), trong khi các câu hỏi về ý chính, thái độ tác giả và suy luận đòi hỏi xử lý tổng thể (global processing/mental model building), hoàn toàn tương thích với mô hình nhận thức của Khalifa & Weir (2009).
- Dấu ấn chuyển động mắt phân hóa trình độ (Eye Tracking Breakthrough): Dữ liệu Eye Tracking ghi nhận sự khác biệt mang tính bản chất:
- Thí sinh thành công (Successful test takers) thể hiện chiến lược đọc tìm kiếm (search reading) cực kỳ hiệu quả: số lần định thị tập trung cao độ vào các AOI chứa thông tin đích (target information), thời lượng định thị ngắn hơn trên các từ hư (function words), và số lần hồi cố (regression) có mục đích rõ ràng.
- Thí sinh không thành công (Unsuccessful test takers) có bản đồ nhiệt (Heat maps) và đồ thị đường nhìn (Gaze plots) phân tán, thời gian định thị kéo dài tại các vùng từ vựng xa lạ, hồi cố hỗn loạn, thể hiện sự bế tắc trong việc phân tích cú pháp và kết nối mệnh đề.
========================================================================================
SO SÁNH HÀNH VI CHUYỂN ĐỘNG MẮT TRONG THỬ NGHIỆM EYE TRACKING
========================================================================================
Chỉ số chuyển động mắt Thí sinh Thành công Thí sinh Không thành công
----------------------------------------------------------------------------------------
Vùng Chú ý (AOI) Tập trung chính xác Phân tán toàn bài, lạc hướng
Tổng thời lượng định thị Ngắn, tối ưu hóa Kéo dài bất thường do nghẽn xử lý
Hành vi hồi cố (Regression) Chiến lược, có chọn lọc Hỗn loạn, lặp lại nhiều lần
Loại hình đọc chủ đạo Expeditious + Global Chậm tuyến tính, Bottom-up bế tắc
========================================================================================
Implications đa chiều
- Về mặt Lý thuyết: Cung cấp bằng chứng thực nghiệm vững chắc xác thực tính tương thích của mô hình Khalifa & Weir (2009) trong bối cảnh khảo thí chuẩn hóa châu Á; chuẩn hóa cấu trúc lập luận của Chapelle et al. (2008) cho bài thi đọc hiểu chuẩn quốc gia.
- Về mặt Phương pháp luận: Thiết lập quy trình mẫu chuẩn mực (replicable protocol) kết hợp giữa mô hình trắc lượng Rasch, giao thức nghĩ thành tiếng và kỹ thuật Eye Tracking, mở đường cho các nghiên cứu xác trị đa phương thức trong tương lai.
- Về mặt Thực tiễn & Khảo thí: Cung cấp cơ sở khoa học để Trung tâm Khảo thí ULIS-VNU và các đơn vị được Bộ GD&ĐT cấp phép tiếp tục tối ưu hóa khâu biên soạn đề thi, xây dựng ngân hàng câu hỏi chuẩn hóa và tinh chỉnh bản mô tả tiêu chí năng lực (descriptors).
- Về mặt Giảng dạy & Học tập: Giúp giảng viên tiếng Anh điều chỉnh phương pháp sư phạm, chú trọng rèn luyện các kỹ năng đọc hiểu bậc cao (search reading, inferencing, synthesising) thay vì chỉ dạy mẹo làm bài đơn thuần.
Limitations và Future Research
Luận án thẳng thắn thừa nhận các giới hạn nghiên cứu mang tính khách quan:
- Bối cảnh thu thập dữ liệu dịch bệnh: Do ảnh hưởng nghiêm trọng của đại dịch COVID-19 làm gián đoạn việc di chuyển giữa Việt Nam và Trung Quốc, toàn bộ dữ liệu thực nghiệm điểm số, TAPs và Eye Tracking được tiến hành trên nhóm người học tiếng Anh tại hai trường đại học tại Trung Quốc. Dù điều này mang lại giá trị xác trị quốc tế, nghiên cứu vẫn cần được tái lặp trên quy mô lớn với chính đối tượng người học Việt Nam.
- Phạm vi định dạng bài thi: Nghiên cứu mới chỉ tập trung vào định dạng bài thi làm trên giấy (paper-based), chưa bao quát định dạng làm trên máy tính (computer-based) vốn đang được triển khai rộng rãi tại đa số các cụm thi VSTEP hiện nay.
- Quy mô mẫu thực nghiệm chuyên sâu: Do đặc thù kỹ thuật phức tạp của thí nghiệm Eye Tracking và TAPs, cỡ mẫu tham gia hai nhánh này còn ở mức khiêm tốn, giới hạn khả năng khái quát hóa tuyệt đối trên toàn bộ quần thể thí sinh.
Hướng nghiên cứu tương lai được đề xuất bao gồm:
- Mở rộng xác trị trên định dạng VSTEP làm trên máy tính và bài thi thích ứng trên máy tính (Computer Adaptive Testing - CAT).
- Mở rộng quy mô mẫu đa dạng hơn trên khắp ba miền Việt Nam và các đối tượng xã hội khác nhau (công chức, nghiên cứu sinh, sinh viên không chuyên ngữ).
- Ứng dụng các công nghệ khoa học thần kinh nhận thức mới (như fNIRS hoặc EEG) kết hợp với Eye Tracking để giải mã sâu hơn hoạt động vỏ não khi xử lý các câu hỏi đọc hiểu phức tạp.
Tác động và ảnh hưởng
- Tác động Học thuật: Luận án tạo tiếng vang lớn trong cộng đồng nghiên cứu khảo thí ngôn ngữ trong nước và khu vực, đóng góp tài liệu tham khảo cho các chương trình đào tạo tiến sĩ và thạc sĩ chuyên ngành Khảo thí và Phương pháp Giảng dạy Tiếng Anh.
- Ảnh hưởng Chính sách: Cung cấp luận cứ khoa học thực chứng ủng hộ Bộ Giáo dục và Đào tạo Việt Nam trong việc tiếp tục công nhận, bảo vệ và thúc đẩy chứng chỉ VSTEP.3-5 như một chuẩn đánh giá năng lực ngoại ngữ quốc gia đáng tin cậy, thay thế dần sự phụ thuộc vào các chứng chỉ quốc tế đắt đỏ.
- Thúc đẩy Khảo thí Khu vực: Nâng cao vị thế học thuật của khảo thí Việt Nam trên trường quốc tế, khẳng định năng lực tự chủ phát triển bài thi chuẩn hóa đáp ứng hoàn toàn các tiêu chuẩn kỹ thuật khắt khe của Hiệp hội Khảo thí Ngôn ngữ Châu Âu (ALTE).
Đối tượng hưởng lợi
- Nghiên cứu sinh & Giới Học thuật: Tiếp cận một khung phương pháp luận hỗn hợp mẫu mực kết hợp Rasch model và Eye Tracking, giải quyết triệt để bài toán xác trị tiến trình nhận thức.
- Hội đồng Khảo thí & Chuyên gia Soạn đề VSTEP: Nhận được bộ tiêu chuẩn và dữ liệu phân tích chi tiết về độ khớp câu hỏi, các bẫy câu hỏi vi sai (DIF) và cơ chế kích hoạt tiểu kỹ năng để cải tiến ngân hàng đề.
- Giảng viên Giảng dạy Tiếng Anh (ELT Teachers): Thấu hiểu sâu sắc sự khác biệt trong tiến trình nhận thức giữa người đọc giỏi và người đọc kém, từ đó thiết kế các hoạt động can thiệp sư phạm hiệu quả.
- Người học Tiếng Anh: Hiểu rõ yêu cầu nhận thức của bài thi VSTEP.3-5, từ đó phát triển các chiến lược đọc hiểu thực chất thay vì áp dụng máy móc các thủ thuật đối phó thi cử.
Câu hỏi chuyên sâu
1. Đóng góp lý thuyết độc đáo nhất của luận án là gì và đã mở rộng lý thuyết nào?
Đóng góp lý thuyết độc đáo nhất là việc mở rộng Khung Lập luận Diễn giải (Interpretive Argument Framework) của Chapelle, Enright, và Jamieson (2008) bằng cách tích hợp nó với Mô hình Nhận thức Đọc hiểu của Khalifa và Weir (2009) để xác trị một bài thi L2 chuẩn hóa cấp quốc gia tại Đông Nam Á. Luận án đã làm sáng tỏ mắt xích Suy luận Giải thích (Explanation Inference) – vốn thường thiếu vắng bằng chứng thực nghiệm trong các nghiên cứu trước đây – bằng cách chứng minh trực tiếp rằng các câu hỏi VSTEP.3-5 kích hoạt chính xác các mức độ xử lý nhận thức từ cục bộ (local) đến tổng thể (global) theo đúng kỳ vọng lý thuyết.
2. Điểm cải tiến phương pháp luận của nghiên cứu khi so sánh với ít nhất hai nghiên cứu quốc tế trước đây?
So với nghiên cứu của Bax & Weir (2012) trên bài thi CAE (vốn chỉ dừng lại ở phân tích chuyển động mắt định tính bước đầu) và nghiên cứu của Chapelle et al. (2008) trên TOEFL iBT (chủ yếu dựa vào dữ liệu sản phẩm và TAPs), luận án này đã thực hiện một bước nhảy vọt về phương pháp luận: thiết kế phương pháp hỗn hợp hội tụ tam giác hóa ba nguồn dữ liệu độc lập: (1) Trắc lượng tâm lý học Rasch trên WINSTEPS để đo độ khó và DIF, (2) Giao thức nghĩ thành tiếng (TAPs) mã hóa 2 cấp, và (3) Hệ thống chỉ số chuyển động mắt (Eye-tracking metrics: First Fixation, Total Fixation, Regression Count, Heat Map, Gaze Plot) gắn với từng Vùng Chú ý (AOI) trên câu hỏi và ngữ liệu.
3. Phát hiện nào mang tính bất ngờ nhất và bằng chứng dữ liệu hỗ trợ phát hiện đó?
Phát hiện bất ngờ nhất nằm ở hành vi xử lý của nhóm thí sinh không thành công: trái với quan niệm phổ biến rằng thí sinh yếu thường đọc chậm hơn thí sinh giỏi trên toàn bài, dữ liệu Eye Tracking chỉ ra rằng ở một số câu hỏi khó, thí sinh không thành công lại có tổng thời gian đọc bài ngắn hơn nhưng có số lần hồi cố (regression count) cục bộ rất cao và bỏ qua hoàn toàn các câu liên kết mang tính bản lề. Họ bị mắc kẹt tại các từ vựng đơn lẻ (lexical fixation) mà không thể nâng cấp tiến trình lên tầng xử lý mô hình tư duy (mental model building), dẫn đến việc lựa chọn các phương án gây nhiễu mang tính lặp từ bề mặt.
4. Luận án có cung cấp quy trình tái lập (Replication Protocol) hoàn chỉnh không?
Hoàn toàn có. Luận án đính kèm chi tiết toàn bộ hồ sơ kỹ thuật tại phần Phụ lục (Appendices):
- File điều khiển cú pháp chạy mô hình Rasch trên WINSTEPS (Appendix 1).
- Bảng câu hỏi phỏng vấn chuyên gia và Phiếu thẩm định chuyên gia Form A & Form B (Appendix 3, 4, 5).
- Hướng dẫn vận hành chuẩn thực nghiệm Nghĩ thành tiếng (TAPs Operation Instructions - Appendix 6).
- Bảng kiểm tra tiến trình đọc hiểu (Reading Processing Checklist - Appendix 7).
- Ma trận khung lập luận diễn giải chuẩn hóa cho VSTEP.3-5 (Appendix 8).
5. Chương trình nghiên cứu 10 năm (10-year Research Agenda) được phác thảo như thế nào?
Luận án định hình lộ trình nghiên cứu khảo thí 10 năm gồm ba giai đoạn:
- Giai đoạn 1 (1-3 năm): Mở rộng xác trị tiến trình nhận thức trên định dạng VSTEP làm trên máy tính (computer-based) và khảo sát sự tương đương giữa hai hình thức thi.
- Giai đoạn 2 (4-6 năm): Nghiên cứu phát triển hệ thống bài thi thích ứng trên máy tính (Computer Adaptive Testing - CAT) dựa trên ngân hàng câu hỏi đã được hiệu chuẩn tham số Rasch.
- Giai đoạn 3 (7-10 năm): Nghiên cứu đối chuẩn quốc tế sâu rộng giữa VSTEP với Khung Tham chiếu Châu Âu (CEFR) và các bài thi quốc tế (IELTS, TOEFL), ứng dụng công nghệ thực tế ảo và khoa học thần kinh (neuroimaging) vào đánh giá năng lực ngôn ngữ đa phương thức.
Kết luận
- Luận án đã xây dựng thành công khung xác trị dựa trên lập luận (argument-based validation) toàn diện, khép kín và có tính minh bạch khoa học cao cho bài thi Đọc hiểu VSTEP.3-5.
- Cung cấp bằng chứng thực nghiệm định lượng đanh thép qua mô hình Rasch khẳng định đề thi có độ tin cậy cao, thang đo độ khó chuẩn hóa trải đều từ Bậc 3 đến Bậc 5, và hoàn toàn không có thiên vị câu hỏi theo giới tính hay chuyên ngành (không có DIF).
- Đột phá trong việc giải mã tiến trình nhận thức nội tại của thí sinh thông qua sự kết hợp tiên phong giữa Biên bản Nghĩ Thành tiếng (TAPs) và Công nghệ Theo dõi Chuyển động Mắt (Eye Tracking), xác thực tính giá trị nhận thức (cognitive validity) của bài thi.
- Minh chứng tính tương thích cao độ giữa các nhiệm vụ bài thi thực tế với bản đặc tả kỹ thuật đề thi chuẩn của Bộ Giáo dục và Đào tạo ban hành.
- Tạo ra tiền lệ phương pháp luận chuẩn mực, mở ra hướng nghiên cứu đa phương thức kết hợp giữa trắc lượng tâm lý học và khoa học nhận thức cho cộng đồng nghiên cứu khảo thí tại Việt Nam và Đông Nam Á.
- Khẳng định giá trị thực tiễn và chất lượng khảo thí của chứng chỉ ngoại ngữ quốc gia VSTEP.3-5, cung cấp cơ sở khoa học vững chắc phục vụ công tác giảng dạy, học tập và hoạch định chính sách ngoại ngữ quốc gia trong kỷ nguyên hội nhập toàn cầu.
Trích đoạn nội dung luận án
Tải xuống để đọc toàn bộVIETNAM NATIONAL UNIVERSITY, HANOI UNIVERSITY OF LANGUAGES AND INTERNATIONAL STUDIES ******** WEI YU DOCTORAL DISSERTATION A STUDY ON THE VALIDITY OF A VIETNAMESE DEVELOPED TEST OF ENGLISH READING PROFICIENCY (Nghiên cứu xác trị bài thi đọc hiểu của một định dạng bài thi tiếng Anh của Việt Nam) MAJOR: ENGLISH LANGUAGE TEACHING METHODOLOGY CODE: 9140231.01 HANOI, 2023 This dissertation was completed at the University of Languages and International Studies, Vietnam National University, Hanoi. This dissertation was defended on October 26th, 2023 This dissertation can be found at: - National Library of Vietnam - Library and Information Center - Vietnam National University, Hanoi i DECLARATION OF AUTHORSHIP I hereby certify that the thesis I am submitting is entirely my own original work except where otherwise indicated. I am aware of the University’s regulations concerning plagiarism, including those regulations concerning disciplinary actions that may result from plagiarism. Any use of the works of any other author, in any form, is properly acknowledged at their point of use.
Date of submission: November 3rd, 2023 Ph. candidate’s signature: ii I certify that I have read this dissertation and that, in my opinion, it is fully adequate in scope and quality as a dissertation for the degree of Doctor of Philosophy. Nguyen Hoa (Supervisor) I certify that I have read this dissertation and that, in my opinion, it is fully adequate in scope and quality as a dissertation for the degree of Doctor of Philosophy. Duong Thu Mai (Co-supervisor) iii TABLE OF CONTENTS LIST OF FIGURES.
x LIST OF TABLES. xii LIST OF ABBREVIATIONS. xix CHAPTER I: INTRODUCTION .1 Rationale of the study .2 Objective of the study.3 Scope of the study .4 Clarifications of the key terms .5 Context of the study .1 Introduction of VSTEP.1 Development of VSTEP.2 Administration of VSTEP.3 Test takers of VSTEP.4 Test format of VSTEP.5 Cut-off scores of VSTEP.2 Introduction of VSTEP.1 Test purpose of VSTEP.2 Test format of VSTEP.3 Proficiency level description of VSTEP.6 Significance of the study .7 Overall structure of the thesis. 15 iv CHAPTER II: LITERATURE REVIEW .1 Review of L2 reading .1 Nature of L2 reading .2 Constructs of L2 reading.1 The processing perspective.2 The task perspective .3 The reader purpose perspective .2 Review of test validation approaches .1 Test validation approaches from product-based perspective .1 Item Response Theory .2 Test validation approaches from process-based perspective.1 Think aloud protocols.
50 CHAPTER III: THEORETICAL FRAMEWORK .2 Studies on the validity of VSTEP.1 Evidence-based validation frameworks .1 Bachman and Palmer’s test usefulness framework .2 Weir’s socio-cognitive framework .2 Argument-based validation frameworks .1 Kane’s interpretive argument framework .2 Chapelle, Enright, and Jamieson’s interpretive argument framework .3 Bachman and Palmer’s assessment use argument framework .4 Empirical validation studies with interpretive argument framework .5 Interpretive argument for the VSTEP.1 Justification for the use of interpretive argument .2 Articulation of an interpretive argument for the VSTEP. 81 CHAPTER IV: RESEARCH METHODOLOGY.1 Ontology and epistemology for the design of the study .2 The convergent mixed methods design for the study .3 Participants of the study .1 Test takers for the VSTEP.2 Experts for interview and judgement .3 Participants for think aloud protocols .4 Participants for eye tracking .4 Instruments of the study .1 A version of the VSTEP.3-5 reading test paper .3-5 reading test specifications .3 Expert interview questions .4 The modified framework of task characteristics for the VSTEP.5 Expert judgment forms .6 Think aloud protocols operation instructions .7 Eye tracking metrics .8 The reading processing checklist .5 Data collection procedures of the study .1 Data collection procedures for research questions 1, 2 and 3 .2 Data collection procedures for research question 4 .3 Data collection procedures for research question 5 .6 Tools for data analysis .1 Compleat Lexical Tutor.7 Data analysis procedures of the study .1 Data analysis procedures for research question 1 .2 Data analysis procedures for research question 2 .3 Data analysis procedures for research question 3 .4 Data analysis procedures for research question 4 .5 Data analysis procedures for research question 5. 138 CHAPTER V: FINDINGS AND DISCUSSIONS ON VALIDITY OF VSTEP.3-5 READING TEST FROM THE PRODUCT-BASED PERSPECTIVE .1 Findings and discussions for research question 1 .1 Findings from test tasks .1 Comparison of test tasks in the investigated test and test specifications .2 Expert interview on test tasks .2 Findings from Rasch model analysis of test items.2 Item estimates according to Rasch model analysis .3 Item and person calibration according to Rasch model analysis.2 Findings and discussions for research question 2 .1 Differential item functioning by genders .2 Differential item functioning by majors .3 Findings and discussions for research question 3 .1 Separation and reliability measures. 164 CHAPTER VI: FINDINGS AND DISCUSSIONS ON VALIDITY OF VSTEP.3-5 READING TEST FROM THE PROCESS-BASED PERSPECTIVE .1 Findings and discussions for research question 4 .1 Expert judgement on reading subskills in the investigated test .2 Discussions from expert judgement .3 Think aloud protocols .1 Reading strategies in think aloud protocols .2 Reading subskills in think aloud protocols.4 Discussions from think aloud protocols.2 Findings and discussions for research question 5 .1 Eye tracking of successful and unsuccessful test takers across item types 200 6.2 Discussions from eye tracking of successful and unsuccessful test takers across item types .3 Eye tracking of test takers at different proficiency levels and results of reading processing checklists .4 Discussions from eye tracking of test takers at different proficiency levels and results of reading processing checklists.
231 CHAPTER VII: CONCLUSION .1 Interpretive argument for the VSTEP.3-5 reading test revisited .1 A recap of the generalization inference .2 A recap of the explanation inference .2 Implications of the study .3 Limitations of the study .4 Suggestions for future studies. 239 LIST OF PUBLICATIONS RELATED TO DISSERTATION. 240 LIST OF PUBLICATIONS OF OTHER FIELDS. 242 APPENDIX 1: Control file for WINSTEPS.
267 APPENDIX 2: Person measures of the investigated VSTEP. 269 APPENDIX 3: Expert interview. 278 APPENDIX 4: Expert judgement form A. 280 APPENDIX 5: Expert judgement form B .3-5 reading test think aloud protocols experiment operation instructions.
285 APPENDIX 7: Reading processing checklist. 288 APPENDIX 8: Interpretive argument for the VSTEP. 290 ix LIST OF FIGURES Figure 2.1 Khalifa and Weir’s cognitive model of reading (2009) .2 Task Characteristics Framework (Bachman and Palmer, 1996) .1 Test usefulness framework (Bachman & Palmer, 1996) …………….2 A socio-cognitive framework for test validation (Weir, 2005, p.3 Model of Toulmin’s argument structure (1958, 2003).4 Interpretive argument framework (Kane, 2006, 2013, 2016) .5 Interpretive argument framework (Chapelle et al.6 Synthesized Bachman & Palmer’s assessment use argument framework (2010) .1 AOI defining on the screen page .2 The layout of experiment materials of eye tracking .3 Eye tracking mode in the study .4 Successful calibration and validation of the eye tracker camera on the host computer screen.1 The Wright map of the investigated test .1 Heat map from the successful test taker on Item 1 .2 Heat map from the unsuccessful test taker on Item 1 .3 Gaze plot from the unsuccessful test taker on Item 29 .4 Gaze plot from the unsuccessful test taker on Item 29 .5 Heat map from the successful test taker on Item 2 .6 Heat map from the unsuccessful test taker on Item 2 .7 Heat map from the successful test taker on Item 23 .8 Heat map from the unsuccessful test taker on Item 23 .9 Gaze plot from the successful test taker on Item 6 .10 Gaze plot from the unsuccessful test taker on Item 6 .11 Gaze plot from the successful test taker on Item 27 .12 Gaze plot from the unsuccessful test taker on Item 27 .13 Gaze plot from the successful test taker on Item 10 .14 Gaze plot from the unsuccessful test taker on Item 10 .15 Heat map from the successful test taker on Item 40 .16 Heat map from the unsuccessful test taker on Item 40. 223 xi LIST OF TABLES Table 1.1 Format of each subtest of VSTEP.2 Cut-off scores of VSTEP.3 Proficiency level description of VSTEP.1 Summary of the warrant, assumptions, and backing associated with each inference in the TOFEL interpretive argument (Chapelle et al.2 Summary of the generalization inference for the VSTEP.3 Summary of the explanation inference for the VSTEP.3-5 reading test81 Table 4.1 The convergent mixed methods design for the study.2 Sampling of participants in the study .3 Information of the test takers for the investigated test .4 Information of the experts for interview and judgement .5 Information of the participants for think aloud protocols .6 Information of the participants for eye tracking .7 Basic information of the VSTEP.3-5 reading test paper .8 The modified framework of task characteristics for the VSTEP.9 Reading subskills and descriptors of VSTEP.10 Results on reading subskills and descriptors of VSTEP.11 Correspondence between subskills and each item of the investigated reading test .12 Eye tracking metrics to be examined in the study .13 The reading processing checklist .14 Participants and dates of the think aloud protocols data collection .15 Participants and dates of the eye tracking data collection .16 Initial think aloud protocols coding scheme .17 Modified think aloud protocols code scheme .18 Think aloud protocols coding demo .19 Information of raw score, converted score and corresponding level of VSTEP.3-5 reading test from think aloud protocols’ participants .20 Information of the eye tracking experiment participants .1 Comparison of text length in the investigated test and test specifications .2 Comparison of language of input in the investigated test and test specifications.3 Comparison of text domain in the investigated test and test specifications.4 Comparison of text topic in the investigated test and test specifications .5 Comparison of text level in the investigated test and test specifications .6 Comparison of response type in the investigated test and test specifications.7 Frequency on the results of interview questions B .8 Standardized residual variance in Eigenvalue units .9 Item fit of the investigated test .10 Item measure of the investigated test .11 DIF by genders .12 DIF by majors .13 Separation and reliability measures of the investigated test .1 Reading subskills and descriptors of VSTEP.2 Results of the expert judgement of reading subskills in the investigated test .3 Frequency of used strategies from participants’ think aloud protocols .4 Frequency on the subskill of “understanding explicit information” from xiii participants’ think aloud protocols .5 Frequency on the subskill of “understanding word meanings in context” from participants’ think aloud protocols .6 Frequency on the subskill of “understanding cohesive devices” from participants’ think aloud protocols .7 Frequency on the subskill of “making inferences” from participants’ think aloud protocols.8 Frequency on the subskills of “integrating information” from participants’ think aloud protocols .9 Frequency on the subskill of “summarizing main ideas” from participants’ think aloud protocols .10 Frequency on the subskill of “understanding explicit/implicit author’s opinion/attitude” from participants’ think aloud protocols .11 Frequency on the subskill of “understanding text function” from participants’ thinking aloud protocols .12 Test takers’ eye tracking data on Item 1 .13 Test takers’ eye tracking data on Item 29 .14 Test takers’ eye tracking data on Item 2 .15 Test takers’ eye tracking data on Item 23 .16 Test takers’ eye tracking data on Item 6 .17 Test takers’ eye tracking data on Item 27 .18 Test takers’ eye tracking data on Item 10 .19 Test takers’ eye tracking data on Item 40 .20 Eye tracking data from participants at different proficiency levels .21 Proportions on reading subskills and strategies used from participants’ reading processing checklists .
Nội dung được bảo vệ bản quyền — Tải xuống đầy đủ
Trích dẫn luận án này
Wei Yu (2023). Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam [Luận án tiến sĩ, University of Languages and International Studies, Vietnam National University, Hanoi]. LuanAn.net. https://luanan.net/giao-duc-hoc/phuong-phap-giang-day/nghien-cuu-xac-tri-bai-thi-doc-hieu-tieng-anh-vstep
Từ khóa và chủ đề nghiên cứu
Từ khóa liên quan
Xem thêm luận án cùng lĩnh vực
Chủ đề nghiên cứu
Câu hỏi thường gặp
Luận án "Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam" nghiên cứu về vấn đề gì?
Luận án tiến sĩ nghiên cứu xác trị bài thi đọc hiểu VSTEP. Phân tích hiệu lực công cụ đánh giá, cải tiến phương pháp giảng dạy tiếng Anh Việt Nam.
Luận án "Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam" được bảo vệ tại trường nào?
Luận án này được bảo vệ tại University of Languages and International Studies, Vietnam National University, Hanoi. Năm bảo vệ: 2023.
Luận án "Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam" thuộc chuyên ngành gì?
Luận án "Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam" thuộc chuyên ngành English Language Teaching Methodology. Danh mục: Phương Pháp Giảng Dạy.
Luận án "Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam" có bao nhiêu trang?
Luận án "Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam" có 312 trang. Bạn có thể xem trước một phần tài liệu ngay trên trang web trước khi tải về.
Cách tải luận án "Xác trị bài thi đọc hiểu tiếng Anh VSTEP của Việt Nam" về máy như thế nào?
Để tải luận án về máy, bạn nhấn nút "Tải xuống ngay" trên trang này, sau đó hoàn tất thanh toán phí lưu trữ. File sẽ được tải xuống ngay sau khi thanh toán thành công. Hỗ trợ qua Zalo: 0559 297 239.