Это атрибут, который указывает то, какую часть экрана займет View по сравнению с другими View, у которых тоже указан данный атрибут. При этом в зависимости от атрибута orientation, данный атрибут будет влиять на разные параметры View. Если у LinearLayout стоит orientation = VERTICAL, то атрибут weight будет влиять на height (высоту) дочернего View. А если у LinearLayout стоит orientation = HORIZONTAL, то атрибут weight будет влиять на width (ширину) View.
Например, если поместить в LinearLayout три TextView с атрибутами weight = 1, то они все будут занимать одинаковое пространство каждый. Если задать им атрибуты weight как 5, 3, 2 соответственно, то они будут занимать 50, 30 и 20 процентов LinearLayout соответственно.
При этом если поместить в LinearLayout какой то View с параметрами высоты и ширины wrap_content, и также поместить View с атрибутом weight, то первый вью займет столько места, сколько ему нужно, а второй все оставшееся свободное пространство внутри LinearLayout.