edubun
Русский

Оперантное обусловливание

Машина пищит, пока ты не пристегнёшь ремень. Прекращение писка является своеобразной наградой, которую психологи называют отрицательным подкреплением.

Бытовые ситуации в этом уроке вымышлены в учебных целях. Результаты исследований взяты из работ, названных в тексте. Материал носит только общеинформационный характер.

Классическое обусловливание объясняет возникающие у тебя непроизвольные реакции, например слюноотделение или страх. Оно не объясняет, почему ребёнок учится ездить на велосипеде или почему ты так часто проверяешь телефон. Для поведения, которое ты выбираешь сам, главное — то, что происходит после него. Это и есть оперантное обусловливание: поведение, за которым следуют хорошие последствия, становится более вероятным, а поведение, за которым следуют плохие последствия, менее вероятным.

Эдвард Торндайк помещал кошек в проблемные ящики с защёлкой внутри и пищей снаружи. Сначала кошки выбирались случайно, но с каждой новой попыткой делали это всё быстрее. Торндайк обобщил результат в законе эффекта: реакции, за которыми следуют удовлетворяющие последствия, повторяются, а реакции с неприятными последствиями не повторяются. В 1930-х годах Б. Ф. Скиннер развил эту идею, создав оперантную камеру, известную теперь как ящик Скиннера. В ней крыса могла нажимать на рычаг, а голубь клевать диск, чтобы получить пищу, пока регистрирующее устройство подсчитывало каждую реакцию.

Плюс и минус не означают хорошо и плохо

В этой терминологии подкрепление всегда усиливает поведение, а наказание всегда ослабляет его. «Положительное» означает, что что-то добавляется, «отрицательное» означает, что что-то убирается. Поэтому сочетаний четыре. Положительное подкрепление: добавить что-то приятное (лакомство за трюк). Отрицательное подкрепление: убрать что-то неприятное (писк ремня безопасности прекращается). Положительное наказание: добавить что-то неприятное (выговор). Отрицательное наказание: убрать что-то приятное (меньше времени с телефоном). Чаще всего с наказанием путают отрицательное подкрепление. Запомни: оно делает поведение более вероятным.

Столбцы: что-то добавлено (+) или убрано (−). Строки: поведение усиливается (↑) или ослабевает (↓). R+ положительное подкрепление, R− отрицательное подкрепление, P+ положительное наказание, P− отрицательное наказание.

Формирование поведения и режимы подкрепления

Сам по себе голубь в пинг-понг играть не станет, поэтому Скиннер применял формирование поведения: награждать грубое приближение, а затем каждый раз требовать чуть большего сходства. Награды бывают первичными, например пища, и вторичными, например похвала, деньги или жетоны, которые приобретают ценность благодаря связи с первичными. Важно и то, как часто приходит награда. Фиксированное соотношение даёт награду после заданного числа реакций (сдельная оплата). Вариативное соотношение даёт её после непредсказуемого числа реакций (азартные игры) и вызывает частые, устойчивые реакции, которые медленно угасают. Фиксированный интервал вознаграждает первую реакцию после заданного времени, вариативный интервал делает это после непредсказуемого времени (проверка новых сообщений).

Скиннер утверждал, что с помощью режима вариативного соотношения может превратить голубя в патологического игрока. OpenStax отмечает, что исследование на крысах 2019 года (Ласковски и коллеги) не подтвердило мысль, будто одни такие режимы вызывают игровую зависимость. Кроме того, Скиннер считал психику чёрным ящиком, но Эдвард Толмен показал, что крысы, которым 10 сеансов давали исследовать лабиринт без пищи, быстро находили путь, как только пища появлялась. Без всякой награды они построили когнитивную карту, и это он назвал латентным научением. Научение не сводится к тому, что закрепляет подкрепление.

Закон эффектаТорндайк: приятные последствия делают реакцию более вероятной
Отрицательное подкреплениеУбрать что-то неприятное, поведение усиливается
Отрицательное наказаниеУбрать что-то приятное, поведение ослабевает
Формирование поведенияНаграждать всё более близкие приближения
Вариативное соотношениеНаграда после непредсказуемого числа реакций; поведение медленно угасает
Латентное научениеТолмен: научение без награды, проявляется позже
Главное
  • Последствия меняют частоту поведения.
  • Подкрепление усиливает поведение, наказание ослабляет его. Положительное добавляет, отрицательное убирает.
  • Формирование поведения шаг за шагом создаёт сложное поведение.
  • Режимы вариативного соотношения дают частые и стойкие реакции.
  1. Собака получает лакомство за то, что села, и садится чаще.
    • Положительное подкрепление
    • Отрицательное подкрепление
    • Положительное наказание
    • Отрицательное наказание
  2. Ты пристёгиваешь ремень, чтобы прекратился писк, и в следующий раз пристёгиваешься раньше.
    • Положительное подкрепление
    • Отрицательное подкрепление
    • Положительное наказание
    • Отрицательное наказание
  3. Подросток лишается времени с телефоном за то, что возвращается домой позже установленного времени, и реже нарушает это правило.
    • Положительное подкрепление
    • Отрицательное подкрепление
    • Положительное наказание
    • Отрицательное наказание
  4. Ученика отчитывают за переписку на уроке, и он переписывается реже.
    • Положительное подкрепление
    • Отрицательное подкрепление
    • Положительное наказание
    • Отрицательное наказание
  5. Какой режим соответствует игровому автомату?
    • Фиксированное соотношение
    • Вариативное соотношение
    • Фиксированный интервал
    • Вариативный интервал
  6. Рабочему на заводе платят за каждые 10 изготовленных изделий. Какой это режим?
    • Фиксированное соотношение
    • Вариативное соотношение
    • Фиксированный интервал
    • Вариативный интервал
  7. К какой категории относится следующее: деньги?
    • Первичное подкрепление
    • Вторичное подкрепление
    • Безусловный стимул
    • Наказание
  8. Голубя учат поворачиваться по кругу, награждая сначала за четверть оборота, затем за пол-оборота, затем за полный оборот. Это…
    • Формирование поведения
    • Угасание
    • Генерализация
    • Латентное научение
  9. Исследование на крысах 2019 года, которое приводит OpenStax, подтвердило, что одни режимы вариативного соотношения вызывают патологическое пристрастие к азартным играм.
    • Да
    • Нет
  10. Крысы Толмена, не получавшие награды, быстро нашли пищу, когда она появилась. Что это показало?
    • Научение возможно без подкрепления
    • Крысы не способны выучить лабиринт
    • Лучше всего действует наказание
    • Выучиваются только рефлексы
Источники курса (15)
  • OpenStax Psychology 2e (openstax.org/books/psychology-2e)
  • sections 6.2 Classical Conditioning (Pavlov 1927; Garcia and Koelling 1966; Rescorla and Wagner 1972; Watson and Rayner 1920)
  • 6.3 Operant Conditioning (Thorndike 1911 law of effect; Skinner 1938; reinforcement and punishment; shaping; primary and secondary reinforcers; schedules; Skinner 1953 on gambling; Laskowski et al. 2019; Tolman latent learning)
  • 6.4 Observational Learning (Bandura, Ross and Ross 1961; attention, retention, reproduction, motivation; Yamamoto, Humle and Tanaka 2013; Anderson et al. and Ferguson on media violence)
  • 10.1 Motivation (Deci, Koestner and Ryan 1999; Yerkes and Dodson 1908; Bandura 1994 self-efficacy; Maslow 1943 and its criticism; drive theory and habits)
  • 8.4 Ways to Enhance Memory. Lally, van Jaarsveld, Potts and Wardle (2010) European Journal of Social Psychology 40, 998-1009, doi 10.1002/ejsp.674 (96 volunteers, 12 weeks, 82 with enough data, 39 good model fits, median 66 days to 95% of plateau, range 18 to 254 days, missing one opportunity did not materially affect habit formation)
  • Hagger et al. (2016) Perspectives on Psychological Science 11, 546-573, PubMed 27474142 (23 labs, N = 2,141, d = 0.04, 95% CI -0.07 to 0.15)
  • Dang et al. multilab replication, PMC8186735 (12 labs, N = 1,775, d = 0.10)
  • Dunlosky et al. (2013) Psychological Science in the Public Interest 14(1)
  • PubMed 26173288 (10 techniques; high utility: practice testing, distributed practice; moderate: elaborative interrogation, self-explanation, interleaved practice; low: summarization, highlighting, keyword mnemonic, imagery for text, rereading)
  • Pashler, McDaniel, Rohrer and Bjork (2008) PSPI 9(3) 105-119, PubMed 26162104. Mueller and Oppenheimer (2014) Psychological Science, PubMed 24760141
  • Morehead, Dunlosky and Rawson (2019) Educational Psychology Review replication
  • Urry et al. (2021) Psychological Science direct replication of Study 1. Roediger and Karpicke (2006) Psychological Science 17(3)
  • Card intervals come from this site's own flashcard code (0, 1, 3, 7, 14, 30 days)
  • Everyday scenes are made up for teaching. General information only.

Проверено: 2026-10-17